频道栏目
首页 > 程序开发 > 软件开发 > Java > 正文
java爬取网页内容 简单例子(2)——附jsoup的select用法详解
2014-08-09 08:03:27           
收藏   我要投稿
【背景】

 

  在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。

 

 

 

【准备工作】

 

下载:jsoup-1.6.1.jar

 

 

 

【先看效果】

 

目标网站:中国天气 

 

目的:获取今天的天气

 

目标HTML代码:

 

 

复制代码

<li class="dn on" data-dn="7d1">

      <h1>今天</h1>

      <h2>8日</h2>

      <big class="jpg50 d04"></big>

      <big class="jpg50 n04"></big>    

      <p class="wea" title="雷阵雨">雷阵雨</p>

      <p class="tem tem1"> <span>33</span><i>°C</i> </p>

      <p class="tem tem2"> <span>25</span><i>°C</i> </p>

      <p class="win">

            <em>

                  <span title="无持续风向" class=""></span>

                  <span title="无持续风向" class=""></span>

            </em>

            <i>微风</i>

      </p>

      <p class="slid"></p>

</li>

复制代码

 

 

解析的java代码:

 

(1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中

 

(2)“今天” 两字在<h1></h1>中

 

(3)“8日” 两字在<h2></h2>中

 

(4)“雷阵雨” 三字在 class="wea" 中

 

(5)“33” 在第一个<span>中

 

(6)“25” 在第二个<span>中

 

(7)“微风” 两字在 第三个<i> 中

 

有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:

 

 

复制代码

 1 package com.zjm.www.test;

 2 

 3 import java.io.IOException;

 4 

 5 import org.jsoup.Jsoup;

 6 import org.jsoup.nodes.Document;

 7 import org.jsoup.select.Elements;

 8 

 9 public class TestJsoup {

10     

11     public  Document getDocument (String url){

12         try {

13             return Jsoup.connect(url).get();

14         } catch (IOException e) {

15             e.printStackTrace();

16         }

17         return null;

18     }

19 

20     public static void main(String[] args) {

21         TestJsoup t = new TestJsoup();

22         Document doc = t.getDocument("https://www.weather.com.cn/html/weather/101280101.shtml");

23         // 获取目标HTML代码

24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");

25         // 今天

26         Elements elements2 = elements1.select("h1");

27         String today = elements2.get(0).text();

28         System.out.println(today);

29         // 几号

30         Elements elements3 = elements1.select("h2");

31         String number = elements3.get(0).text();

32         System.out.println(number);

33         // 是否有雨

34         Elements elements4 = elements1.select("[class=wea]");

35         String rain = elements4.get(0).text();

36         System.out.println(rain);

37         // 高的温度

38         Elements elements5 = elements1.select("span");

39         String highTemperature = elements5.get(0).text()+"°C";

40         System.out.println(highTemperature);

41         // 低的温度

42         String lowTemperature = elements5.get(1).text()+"°C";

43         System.out.println(lowTemperature);

44         // 风力

45         Elements elements6 = elements1.select("i");

46         String wind = elements6.get(2).text();

47         System.out.println(wind);

48     }

49 }

复制代码

 

 

结果打印出:

 

1 今天

2 8日

3 雷阵雨

4 33°C

5 25°C

6 微风

 

 

【详解】

 

附:

 

jsoup的官方中文文档为:https://www.open-open.com/

API为:https://jsoup.org/apidocs/

java代码第13行:

 

  从文档中我们可用看出,获取数据源的方法有三:

 

(1)从一段html代码字符串获取:  Document doc = Jsoup.parse(html);

 

(2)从一个url获取:        Document doc = Jsoup.connect("https://example.com/").get();

 

(3)从一个html文件获取      File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "https://example.com/");

 

这里,我们采取了第二种方法,从url中获取。

 

java代码第24、26、30、34、38行:

 

  Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

 

注:以下表格的结果都是使用以下语句打印出来的

 

for(Element e : elements) {

            System.out.println(e.text());

        }

 

 

select详解

描述 测试的HTML代码 select写法

结果

 

通过

 

标签名

 

来查找

 

<span>33</span>

<span>25</span>

 

 

Elements elements = doc.select("span");

 

 

注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。

33

25

 

 

通过 

 

id 

 

来查找

 

 

 

<span  id=\"mySpan\">36</span>

 

<span>20</span>

 

 

 

Elements elements = doc.select("#mySpan");

 注:通过id来查找,使用方法跟css指定元素一样,用#

 

36

 

 

 通过

 

 class名

 

 来查找

 

 

 

<span class=\"myClass\">36</span>

<span>20</span>

 

 

 

 

 

Elements elements = doc.select(".myClass");

注:通过id来查找,使用方法跟css指定元素一样,用 . 

 

36

 

 

 利用标签内 

 

属性名

 

 查找元素

 

 

<span class=\"class1\" id=\"id1\">36</span>

<span class=\"class2\" id=\"id2\">36</span>

 

 

 

Elements elements = doc.select("span[class=class1]span[id=id1]");

 注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。

 

 

36

 

 

利用标签内 

 

属性名前缀 

 

查找元素

 

 

<span class=\"class1\" >36</span>

<span class=\"class2\" >22</span>

 

 

 

Elements elements = doc.select("span[^cl]");

 注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。

 

 

36

22

 

 

 利用标签内

 

属性名+正则表达式

 

查找元素

 

 

<span class=\"ABC\" >36</span>

<span class=\"ADE\" >22</span>

 

 

 

Elements elements = doc.select("span[class~=^AB]");

 注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】

 

 

36

 

 

 利用标签

 

文本包含某些内容

 

来查找

 

 

<span>36</span>

<span>22</span>

 

 

 

 

 

Elements elements = doc.select("span:contains(3)");

 

 注:规则为 标签名:contains(文本值)

 

 

36

 

 

 利用标签

 

文本包含某些内容+正则表达式

 

来查找

 

 

<span>36</span>

<span>22</span>

 

 

 

Elements elements = doc.select("span:matchesOwn(^3)");

 注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签

 

 

36

 

 

关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。

 

select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。

 

而想得到节点的其他属性,可以看API的介绍。

 

 

点击复制链接 与好友分享!回本站首页
相关TAG标签 例子 网页 内容
上一篇:冒泡排序
下一篇:java使用httpcomponents post发送json数据
相关文章
图文推荐
点击排行

关于我们 | 联系我们 | 广告服务 | 投资合作 | 版权申明 | 在线帮助 | 网站地图 | 作品发布 | Vip技术培训 | 举报中心

版权所有: 红黑联盟--致力于做实用的IT技术学习网站