Java 網絡爬蟲,就是這么的簡單

點擊 上方“ 平頭哥的技術博文 ”,選擇“ 關注公眾號

技術文章第一時間送達!

Java 網絡爬蟲,就是這么的簡單

這是 Java 網絡爬蟲系列文章的第一篇,如果你還不知道 Java 網絡爬蟲系列文章,請參看 學 Java 網絡爬蟲,需要哪些基礎知識 。第一篇是關于 Java 網絡爬蟲入門內容,在該篇中我們以采集虎撲列表新聞的新聞標題和詳情頁為例,需要提取的內容如下圖所示:

Java 網絡爬蟲,就是這么的簡單

我們需要提取圖中圈出來的文字及其對應的鏈接,在提取的過程中,我們會使用兩種方式來提取,一種是 Jsoup 的方式,另一種是 httpclient + 正則表達式的方式,這也是 Java 網絡爬蟲常用的兩種方式,你不了解這兩種方式沒關系,后面會有相應的使用手冊。在正式編寫提取程序之前,我先交代一下 Java 爬蟲系列博文的環境,該系列博文所有的 demo 都是使用 SpringBoot 搭建的,不管你使用哪種環境,只需要正確的導入相應的包即可。

Jsoup 方式提取信息

我們先來使用 Jsoup 的方式提取新聞信息,如果你還不知道 Jsoup ,請參考 Jsoup 官網: https://jsoup.org/

先建立一個 Springboot 項目,名字就隨意啦,在 pom.xml 中引入 Jsoup 的依賴

<dependency>
    <groupId>org.jsoup</groupId>
    <artifactId>jsoup</artifactId>
    <version>1.12.1</version>
</dependency>

好了,接下來我們一起分析頁面吧,想必你還沒瀏覽過虎撲新聞吧,虎撲新聞列表鏈接: https://voice.hupu.com/nba 。在新聞列表頁,我們利用 F12 審查元素查看頁面結構,經過我們分析發現列表新聞在 <div class="news-list"> 標簽下,每一條新聞都是一個 li 標簽,分析結果如下圖所示:

Java 網絡爬蟲,就是這么的簡單

由于我們前面已經知道了 css 選擇器,我們結合瀏覽器的 Copy 功能,編寫出我們 a 標簽的 css 選擇器代碼div.news-list > ul > li > div.list-hd > h4 > a ,一切都準備好了,我們一起來編寫 Jsoup 方式提取信息的代碼:

/**
 * jsoup方式 獲取虎撲新聞列表頁
 * @param url 虎撲新聞列表頁url
 */
public void jsoupList(String url){
    try {
        Document document = Jsoup.connect(url).get();
        // 使用 css選擇器 提取列表新聞 a 標簽
        // <a href="https://voice.hupu.com/nba/2484553.html" target="_blank">霍華德:夏休期內曾節食30天,這考驗了我的身心</a>
        Elements elements = document.select("div.news-list > ul > li > div.list-hd > h4 > a");
        for (Element element:elements){
//                System.out.println(element);
            // 獲取詳情頁鏈接
            String d_url = element.attr("href");
            // 獲取標題
            String title = element.ownText();

            System.out.println("詳情頁鏈接:"+d_url+" ,詳情頁標題:"+title);

        }
    } catch (IOException e) {
        e.printStackTrace();
    }
}

使用 Jsoup 方式提取還是非常簡單的,就 5、6 行代碼就完成了,關于更多 Jsoup 如何提取節點信息的方法可以參考 jsoup 的官網教程。我們編寫 main 方法,來執行 jsoupList 方法,看看 jsoupList 方法是否正確。

public static void main(String[] args) {
    String url = "https://voice.hupu.com/nba";
    CrawlerBase crawlerBase = new CrawlerBase();
    crawlerBase.jsoupList(url);
}

執行 main 方法,得到如下結果:

Java 網絡爬蟲,就是這么的簡單

從結果中可以看出,我們已經正確的提取到了我們想要的信息,如果你想采集詳情頁的信息,只需要編寫一個采集詳情頁的方法,在方法中提取詳情頁相應的節點信息,然后將列表頁提取的鏈接傳入提取詳情頁方法即可。

httpclient + 正則表達式提取

上面我們已經使用了 Jsoup 方式正確提取了虎撲列表新聞,接下來我們使用 httpclient + 正則表達式的方式來提取,看看使用這種方式又會涉及到哪些問題?httpclient + 正則表達式的方式涉及的知識點還是蠻多的,它涉及到了正則表達式、Java 正則表達式、httpclient。如果你還不知道這些知識,可以點擊下方鏈接簡單了解一下:

正則表達式: https://www.w3cschool.cn/zhengzebiaodashi/regexp-syntax.html

Java 正則表達式: https://www.w3cschool.cn/java/java-regex-quantifiers.html

httpclient: http://hc.apache.org/

我們在 pom.xml 文件中,引入 httpclient 相關 Jar 包

<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpclient</artifactId>
    <version>4.5.10</version>
</dependency>
<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpcore</artifactId>
    <version>4.4.10</version>
</dependency>
<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpmime</artifactId>
    <version>4.5.10</version>
</dependency>

關于虎撲列表新聞頁面結構,我們在使用 Jsoup 方式的時候進行了簡單的分析,這里我們就不在重復分析了。對于使用正則表達式方式提取,我們需要找到能夠代表列表新聞的結構體,比如: <div class="list-hd"> <h4> <a href="https://voice.hupu.com/nba/2485508.html" target="_blank">直上霄!魔術官方社媒曬富爾茨扣籃炫酷特效圖</a></h4></div> 這段結構體,每個列表新聞只有鏈接和標題不一樣,其他的都一樣,而且 <div class="list-hd"> 是列表新聞特有的。最好不要直接正則匹配 a 標簽,因為 a 標簽在其他地方也有,這樣我們就還需要做其他的處理,增加我們的難度。現在我們了解了正則結構體的選擇,我們一起來看看 httpclient + 正則表達式方式提取的代碼:

/**
 * httpclient + 正則表達式 獲取虎撲新聞列表頁
 * @param url 虎撲新聞列表頁url
 */
public void httpClientList(String url){
    try {
        CloseableHttpClient httpclient = HttpClients.createDefault();
        HttpGet httpGet = new HttpGet(url);
        CloseableHttpResponse response = httpclient.execute(httpGet);
        if (response.getStatusLine().getStatusCode() == 200) {
            HttpEntity entity = response.getEntity();
            String body = EntityUtils.toString(entity,"utf-8");

            if (body!=null) {
                 /*
                 * 替換掉換行符、制表符、回車符,去掉這些符號,正則表示寫起來更簡單一些
                 * 只有空格符號和其他正常字體
                 */
                Pattern p = Pattern.compile("/t|/r|/n");
                Matcher m = p.matcher(body);
                body = m.replaceAll("");
                /*
                 * 提取列表頁的正則表達式
                 * 去除換行符之后的 li
                 * <div class="list-hd">                                    <h4>                                        <a href="https://voice.hupu.com/nba/2485167.html"  target="_blank">與球迷親切互動!凱爾特人官方曬球隊開放訓練日照片</a>                                    </h4>                                </div>
                 */
                Pattern pattern = Pattern
                        .compile("<div class=/"list-hd/">//s* <h4>//s* <a href=/"(.*?)/"//s* target=/"_blank/">(.*?)</a>//s* </h4>//s* </div>" );

                Matcher matcher = pattern.matcher(body);
                // 匹配出所有符合正則表達式的數據
                while (matcher.find()){
//                        String info = matcher.group(0);
//                        System.out.println(info);
                    // 提取出鏈接和標題
                    System.out.println("詳情頁鏈接:"+matcher.group(1)+" ,詳情頁標題:"+matcher.group(2));
                }
            }else {
                System.out.println("處理失敗!!!獲取正文內容為空");
            }
        } else {
            System.out.println("處理失敗!!!返回狀態碼:" + response.getStatusLine().getStatusCode());
        }
    }catch (Exception e){
        e.printStackTrace();
    }

}

從代碼的行數可以看出,比 Jsoup 方式要多不少,代碼雖然多,但是整體來說比較簡單,在上面方法中我做了一段特殊處理,我先替換了 httpclient 獲取的字符串 body 中的換行符、制表符、回車符,因為這樣處理,在編寫正則表達式的時候能夠減少一些額外的干擾。接下來我們修改 main 方法,運行 httpClientList 方法。

public static void main(String[] args) {
    String url = "https://voice.hupu.com/nba";
    CrawlerBase crawlerBase = new CrawlerBase();
//        crawlerBase.jsoupList(url);
    crawlerBase.httpClientList(url);
}

運行結果如下圖所示:

Java 網絡爬蟲,就是這么的簡單

使用 httpclient + 正則表達式的方式同樣正確的獲取到了列表新聞的標題和詳情頁鏈接。到此 Java 爬蟲系列博文第一篇就寫完了,這一篇主要是 Java 網絡爬蟲的入門,我們使用了 jsoup 和 httpclient + 正則的方式提取了虎撲列表新聞的新聞標題和詳情頁鏈接。當然這里還有很多沒有完成,比如采集詳情頁信息存入數據庫等。

希望以上內容對你有所幫助,下一篇是模擬登陸相關的,如果你對 Java 網絡爬蟲感興趣,不妨關注一波,一起學習,一起進步。

源代碼: https://github.com/BinaryBall/java-base/blob/master/crawler/src/main/java/com/jamal/crawler/CrawlerBase.java


Java 網絡爬蟲,就是這么的簡單

Java 網絡爬蟲,就是這么的簡單

這些年小編給你分享過的干貨

《 如何做好職業規劃,也許這幾點能夠幫助你 》

《 學 Java 網絡爬蟲,需要哪些基礎知識 》

《 從 Int 到 Integer 對象,細細品來還是有不少東西 》

《 Java String 對象,你真的了解了嗎? 》

《 從這四點出發,不做 “ 空心 ” 程序員

來都來了,點個在看再走吧 ~~~

原文 

http://mp.weixin.qq.com/s?__biz=MzIyNTM4ODI0OA==&mid=2247484006&idx=1&sn=899fc6e3151afc80c5b537f822031f66

本站部分文章源于互聯網,本著傳播知識、有益學習和研究的目的進行的轉載,為網友免費提供。如有著作權人或出版方提出異議,本站將立即刪除。如果您對文章轉載有任何疑問請告之我們,以便我們及時糾正。

PS:推薦一個微信公眾號: askHarries 或者qq群:474807195,里面會分享一些資深架構師錄制的視頻錄像:有Spring,MyBatis,Netty源碼分析,高并發、高性能、分布式、微服務架構的原理,JVM性能優化這些成為架構師必備的知識體系。還能領取免費的學習資源,目前受益良多

轉載請注明原文出處:Harries Blog? » Java 網絡爬蟲,就是這么的簡單

贊 (0)
分享到:更多 ()

評論 0

  • 昵稱 (必填)
  • 郵箱 (必填)
  • 網址
手机彩票计划软件超稳