黑马程序员技术交流社区

标题: [成都校区]Jsoup简单介绍 [打印本页]

作者: Merle007 时间: 2019-1-9 18:52
标题: [成都校区]Jsoup简单介绍
一、Jsoup是什么?
jsoup是一款Java的html解析器，可解析HTML文本内容、URL地址，它有一套非常完善并且相当省里的API，你可以通过DOM,CSS以及类似于Jquery的操作方法对数据进行操作。

二、Jsoup有什么用？
(1)从URL、文件或字符串中解析出HTML
(2)使用CSS选择器、DOM进行数据查找、获取；
(3)操作HTML元素、属性、文本；
(4)处理不完整的HTML格式（如没有关闭的标签，隐式标签，创建可靠的文档结构）；

三、jsoup的常用方法
(1)解析HTML字符串
Jsoup.parse(String html)：将HTML文档解析成一个新的文档(Document),便于你使用document中方法获取相关数据；
Jsoup.parse(String html,String baseUri):将HTML文档解析成一个新的Document文档，并且能够将相对的URL转成绝对的URL，并指定从哪个网站获取文档。示例代码：
String html = "<html><head><title>First parse</title></head><body>Parsed HTML into a doc.</body></html>";
Document doc = Jsoup.parse(html);

(2)解析body片段
Jsoup.parseBodyFragment(String html)：创建一个空的document文档，并插入解析过得HTML到body元素中。该方法与Jsoup.parse(String html)相似，然而，当明确将用户输入作为 body片段处理，该方法可以确保用户所提供的任何糟糕的HTML都将被解析成body元素。
Documen.body()：获取文档body元素的所有子元素，与doc.getElementByTag()相同。
Whitelist、Clean(String bodyHtml,Whitelist whitelist):用于清除用户输入的恶意内容。

(3)根据一个url加载Document对象
Jsoup.connect(String url):从网站中获取以及解析一个HTML文档，查找其中相关数据，该方法只支持WEB URLs(http和https协议，若要从一个文件加载，则可以使用parse（File in,String charsetName）),示例代码
Document doc = Jsoup.connect("http://example.com/").get();
String title = doc.title();

(4)根据一个文件加载Document对象
Jsoup.parse(File in,String charsetName,String bserUri):解析、加载本机硬盘上的HTML文件，进行数据抽取、修改。中国baseUri用于解决文件中URLs是相对路径的问题，它可以为空。
Jsoup.parse(File in,Strig charsetName):适用于解析本地网站文件系统。
(6)使用dom方法遍历一个Document对象
Elements这个对象提供了一系列类似于DOM的方法来查找元素，抽取并处理其中的数据。具体如下：

取得元素
getElementById(String id)
getElementsByTag(String tag)
getElementsByClass(String className)
getElementsByAttribute(String key) (and related methods)
Element siblings: siblingElements(), firstElementSibling(), lastElementSibling();nextElementSibling(), previousElementSibling()
Graph: parent(), children(), child(int index)

元素数据
attr(String key):获取属性
attr(String key, String value)设置属性
attributes()获取所有属性
id(), className() and classNames()
text()获取文本内容text(String value) 设置文本内容
html()获取元素内HTMLhtml(String value)设置元素内的HTML内容
outerHtml()获取元素外HTML内容
data()获取数据内容（例如：script和style标签)
tag() and tagName()

操作HTML和文本
append(String html), prepend(String html)
appendText(String text), prependText(String text)
appendElement(String tagName), prependElement(String tagName)
html(String value)

(7)使用选择器语法来查找元素
Element.select(String selector),Elements.select(String selector);示例代码：
File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
Elements links = doc.select("a[href]"); //带有href属性的a元素
Elements pngs = doc.select("img[src$=.png]");
//扩展名为.png的图片
Element masthead = doc.select("div.masthead").first();
//class等于masthead的div标签
Elements resultLinks = doc.select("h3.r > a"); //在h3元素之后的a元素

(8)从元素中抽取属性、文本以及HTML
Node.attr(String key):获取属性的值
Element.text():获取元素中的文本
Element.html():获取元素或属性中的HTML内容。

示例代码：
String html = "An <a >example</a> link.";
Document doc = Jsoup.parse(html);//解析HTML字符串返回一个Document实现
Element link = doc.select("a").first();//查找第一个a元素
String text = doc.body().text(); // "An example link"//取得字符串中的文本
String linkHref = link.attr("href"); // "http://example.com/"//取得链接地址
String linkText = link.text(); // "example""//取得链接地址中的文本
String linkOuterH = link.outerHtml();
// "<a >example</a>"
String linkInnerH = link.html(); // "example"//取得链接内的html内容

(9)设置属性值
Element.attr(String key,String value);设置属性值
Elements.attr(String key,String value);设置属性值；
Element.addClass(String className):修改元素的class属性
Element.removeClass(String className):修改元素的class属性；
doc.select("div.comments a").attr("rel","nofollow")：为div中的每一个a元素都添加一个rel="nofollow"

(10)设置一个元素的HTML内容
Element.html(String html)：传入html，将之前的html清除
Element.prepend(String first):在元素内部html的前面添加html内容
Element.append(String last):在元素内部html的后面添加html内容
Element.wrap(String around):元素包裹一个外部html内容。

(11)设置元素文本内容
Element.text(String text):清除元素内部的html内容，用text文本代替
Element.prepend(String first)，Element.append(String last)：分别在元素的内部html前后添加文本节点。

四、jsoup的自我小结
Jsoup的语法比较简单，方法的通用性也很强，不用刻意去记jsoup的语法，在实践中边用变学习即可。

五、Selector选择器概述
tagname: 通过标签查找元素，比如：a
ns|tag: 通过标签在命名空间查找元素，比如：可以用 fb|name 语法来查找 <fb:name> 元素
#id: 通过ID查找元素，比如：#logo
.class: 通过class名称查找元素，比如：.masthead
[attribute]: 利用属性查找元素，比如：[href]
[^attr]: 利用属性名前缀来查找元素，比如：可以用[^data-] 来查找带有HTML5 Dataset属性的元素
[attr=value]: 利用属性值来查找元素，比如：[width=500]
[attr^=value], [attr$=value], [attr*=value]: 利用匹配属性值开头、结尾或包含属性值来查找元素，比如：[href*=/path/]
[attr~=regex]: 利用属性值匹配正则表达式来查找元素，比如： img[src~=(?i)\.(png|jpe?g)]
*: 这个符号将匹配所有元素
Selector选择器组合使用
el#id: 元素+ID，比如： div#logo
el.class: 元素+class，比如： div.masthead
el[attr]: 元素+class，比如： a[href]
任意组合，比如：a[href].highlight
ancestor child: 查找某个元素下子元素，比如：可以用.body p 查找在"body"元素下的所有p元素
parent > child: 查找某个父元素下的直接子元素，比如：可以用div.content > p 查找 p 元素，也可以用body > * 查找body标签下所有直接子元素
siblingA + siblingB: 查找在A元素之前第一个同级元素B，比如：div.head + div
siblingA ~ siblingX: 查找A元素之前的同级X元素，比如：h1 ~ p
el, el, el:多个选择器组合，查找匹配任一选择器的唯一元素，例如：div.masthead, div.logo

伪选择器selectors
:lt(n): 查找哪些元素的同级索引值（它的位置在DOM树中是相对于它的父节点）小于n，比如：td:lt(3) 表示小于三列的元素
:gt(n):查找哪些元素的同级索引值大于n，比如： div p:gt(2)表示哪些div中有包含2个以上的p元素
:eq(n): 查找哪些元素的同级索引值与n相等，比如：form input:eq(1)表示包含一个input标签的Form元素
:has(seletor): 查找匹配选择器包含元素的元素，比如：div:has(p)表示哪些div包含了p元素
:not(selector): 查找与选择器不匹配的元素，比如： div:not(.logo) 表示不包含 class=logo 元素的所有 div 列表
:contains(text): 查找包含给定文本的元素，搜索不区分大不写，比如： p:contains(jsoup)
:containsOwn(text): 查找直接包含给定文本的元素
:matches(regex): 查找哪些元素的文本匹配指定的正则表达式，比如：div:matches((?i)login)
:matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素
注意：上述伪选择器索引是从0开始的，也就是说第一个元素索引值为0，第二个元素index为1等
可以查看Selector API参考来了解更详细的内容

欢迎光临黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2