當前位置:編程學習大全網 - 源碼下載 - jsoup教程

jsoup教程

jsoup是壹款Java的HTML解析器,主要用來對HTML解析。 官網 中文文檔

在爬蟲的時候,當我們用HttpClient之類的框架,獲取到網頁源碼之後,需要從網頁源碼中取出我們想要的內容,

就可以使用jsoup這類HTML解析器了。可以非常輕松的實現。

雖然jsoup也支持從某個地址直接去爬取網頁源碼,但是只支持HTTP,HTTPS協議,支持不夠豐富。

所以,主要還是用來對HTML進行解析。

◆其中,要被解析的HTML可以是壹個HTML的字符串,可以是壹個URL,可以是壹個文件。

org.jsoup.Jsoup把輸入的HTML轉換成壹個org.jsoup.nodes.Document對象,然後從Document對象中取出想要的元素。

org.jsoup.nodes.Document繼承了org.jsoup.nodes.Element,Element又繼承了org.jsoup.nodes.Node類。裏面提供了豐富的方法來獲取HTML的元素。

◇從URL獲取HTML來解析

其中Jsoup.connect("xxx")方法返回壹個org.jsoup.Connection對象。

在Connection對象中,我們可以執行get或者post來執行請求。但是在執行請求之前,

我們可以使用Connection對象來設置壹些請求信息。比如:頭信息,cookie,請求等待時間,代理等等來模擬瀏覽器的行為。

◆獲得Document對象後,接下來就是解析Document對象,並從中獲取我們想要的元素了。

Document中提供了豐富的方法來獲取指定元素。

◇使用DOM的方式來取得

getElementById(String id):通過id來獲取

 getElementsByTag(String tagName):通過標簽名字來獲取

 getElementsByClass(String className):通過類名來獲取

 getElementsByAttribute(String key):通過屬性名字來獲取

 getElementsByAttributeValue(String key, String value):通過指定的屬性名字,屬性值來獲取

 getAllElements():獲取所有元素

◇通過類似於css或jQuery的選擇器來查找元素

使用的是Element類的下記方法:

public Elements select(String cssQuery)

通過傳入壹個類似於CSS或jQuery的選擇器字符串,來查找指定元素。

例子:

選擇器的更多語法(可以在org.jsoup.select.Selector中查看到更多關於選擇器的語法):

tagname: 通過標簽查找元素,比如:a

 ns|tag: 通過標簽在命名空間查找元素,比如:可以用 fb|name 語法來查找 <fb:name> 元素

 #id: 通過ID查找元素,比如:#logo

 .class: 通過class名稱查找元素,比如:.masthead

 [attribute]: 利用屬性查找元素,比如:[href]

 [^attr]: 利用屬性名前綴來查找元素,比如:可以用[^data-] 來查找帶有HTML5 Dataset屬性的元素

 [attr=value]: 利用屬性值來查找元素,比如:[width=500]

 [attr^=value], [attr$=value], [attr=value]: 利用匹配屬性值開頭、結尾或包含屬性值來查找元素,比如:[href=/path/]

 [attr~=regex]: 利用屬性值匹配正則表達式來查找元素,比如: img[src~=(?i).(png|jpe?g)]

 *: 這個符號將匹配所有元素

Selector選擇器組合使用

 el#id: 元素+ID,比如: div#logo

 el.class: 元素+class,比如: div.masthead

 el[attr]: 元素+class,比如: a[href]

 任意組合,比如:a[href].highlight

 ancestor child: 查找某個元素下子元素,比如:可以用.body p 查找在"body"元素下的所有 p元素

 parent > child: 查找某個父元素下的直接子元素,比如:可以用div.content > p 查找 p 元素,也可以用body > * 查找body標簽下所有直接子元素

 siblingA + siblingB: 查找在A元素之前第壹個同級元素B,比如:div.head + div

 siblingA ~ siblingX: 查找A元素之前的同級X元素,比如:h1 ~ p

 el, el, el:多個選擇器組合,查找匹配任壹選擇器的唯壹元素,例如:div.masthead, div.logo

偽選擇器selectors

 :lt(n): 查找哪些元素的同級索引值(它的位置在DOM樹中是相對於它的父節點)小於n,比如:td:lt(3) 表示小於三列的元素

 :gt(n):查找哪些元素的同級索引值大於n,比如: div p:gt(2)表示哪些div中有包含2個以上的p元素

 :eq(n): 查找哪些元素的同級索引值與n相等,比如:form input:eq(1)表示包含壹個input標簽的Form元素

 :has(seletor): 查找匹配選擇器包含元素的元素,比如:div:has(p)表示哪些div包含了p元素

 :not(selector): 查找與選擇器不匹配的元素,比如: div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表

 :contains(text): 查找包含給定文本的元素,搜索不區分大不寫,比如: p:contains(jsoup)

 :containsOwn(text): 查找直接包含給定文本的元素

 :matches(regex): 查找哪些元素的文本匹配指定的正則表達式,比如:div:matches((?i)login)

 :matchesOwn(regex): 查找自身包含文本匹配指定正則表達式的元素

註意  :上述偽選擇器索引是從0開始的,也就是說第壹個元素索引值為0,第二個元素index為1等

◆通過上面的選擇器,我們可以取得壹個Elements對象,它繼承了ArrayList對象,裏面放的全是Element對象。

接下來我們要做的就是從Element對象中,取出我們真正需要的內容。

通常有下面幾種方法:

◇Element.text()

這個方法用來取得壹個元素中的文本。

◇Element.html()或Node.outerHtml()

這個方法用來取得壹個元素中的html內容

◇Node.attr(String key)

獲得壹個屬性的值,例如取得超鏈接<a href="">中href的值

json字符串-數組類型與JSONArray之間的轉換

復雜json格式字符串與JSONObject之間的轉換

  • 上一篇:夢見大河裏有鬼
  • 下一篇:微信封號怎麽回事?
  • copyright 2024編程學習大全網