如何使用JAVA來寫個(gè)爬蟲

本篇文章為大家展示了如何使用JAVA來寫個(gè)爬蟲,內(nèi)容簡明扼要并且容易理解,絕對(duì)能使你眼前一亮,通過這篇文章的詳細(xì)介紹希望你能有所收獲。

為丁青等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計(jì)制作服務(wù),及丁青網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都做網(wǎng)站、成都網(wǎng)站設(shè)計(jì)、丁青網(wǎng)站設(shè)計(jì),以傳統(tǒng)方式定制建設(shè)網(wǎng)站,并提供域名空間備案等一條龍服務(wù),秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達(dá)到每一位用戶的要求,就會(huì)得到認(rèn)可,從而選擇與我們長期合作。這樣,我們也可以走得更遠(yuǎn)!

這篇文章其實(shí)是我很早之前就寫好了的,這次重新整理一下。Java寫爬蟲可能很多朋友沒有去試過,可能是由于這方面的資料比較少,也可能是Python寫爬蟲過于的方便。

 基本概念     

   jsoup is a Java library for working with real-world HTML. It provides a very convenient API for extracting and manipulating data, using the best of DOM, CSS, and jquery-like methods.

     上面是官方給的jsoup官方解釋,中文意思是  jsoup 是一款Java 的HTML解析器,可直接解析某個(gè)URL地址、HTML文本內(nèi)容。它提供了一套非常省力的API,可通過DOM,CSS以及類似于jQuery的操作方法來取出和操作數(shù)據(jù)。

總的來說,就是可以幫我們解析HTML頁面,并且可以抓取html里面的內(nèi)容。

開始寫代碼  

我們的目標(biāo)是抓取菜鳥筆記上的信息(文章標(biāo)題和鏈接         )        

如何使用JAVA來寫個(gè)爬蟲

public static void main(String[] args) {     try {         //下面這行代碼是連接我們的目標(biāo)站點(diǎn),并且get到他的靜態(tài)HTML代碼    Document document=Jsoup.connect("http://www.runoob.com/w3cnote").get();         //我們把獲取到的document打印一下,看看里面到底是啥?    System.out.println(document);  } catch (IOException e) {    e.printStackTrace();  } }

看我們代碼運(yùn)行后的結(jié)果:

如何使用JAVA來寫個(gè)爬蟲

如何使用JAVA來寫個(gè)爬蟲

你會(huì)發(fā)現(xiàn)我們通過這一句就獲得了“菜鳥筆記”這個(gè)網(wǎng)站的HTML源碼

我們來分析一下這串html源碼

如何使用JAVA來寫個(gè)爬蟲

發(fā)現(xiàn)這兩個(gè)正是我們所想要得到的數(shù)據(jù),我們繼續(xù)抓取

public static void main(String[] args) {     try {    Document document=Jsoup.connect("http://www.runoob.com/w3cnote").get();    //底下一行代碼是我們進(jìn)一步抓取到具體的HTML模塊,div表示<div>標(biāo)簽,            //后面的post-intro表示的是div的class            //由于div.post-intro這個(gè)標(biāo)簽有多個(gè)(每個(gè)標(biāo)題有一個(gè)),所以我們先獲取到它的所有            Elements elements=document.select("div.post-intro");            //我們來遍歷一下,因?yàn)閐iv.post-intro有很多個(gè)    for(int i=0;i<elements.size();i++) {           //下面一行我們獲取到文章的標(biāo)題,可以結(jié)合圖片來分析           // get(i)是為了獲取每個(gè)div里面的<a>標(biāo)簽。后面的text(),就是獲取<a></a>中的內(nèi)容      String title=elements.select("a").get(i).text();           //attr是獲取<a href="">里面的屬性      String url=elements.select("a").get(i).attr("href");           //分別打印出來      System.out.println(title);      System.out.println("http://www.runoob.com/"+url);    }  } catch (IOException e) {    e.printStackTrace();  } }
 

如何使用JAVA來寫個(gè)爬蟲

上述內(nèi)容就是如何使用JAVA來寫個(gè)爬蟲,你們學(xué)到知識(shí)或技能了嗎?如果還想學(xué)到更多技能或者豐富自己的知識(shí)儲(chǔ)備,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。

分享標(biāo)題:如何使用JAVA來寫個(gè)爬蟲
分享地址:http://muchs.cn/article40/gdopeo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供電子商務(wù)外貿(mào)網(wǎng)站建設(shè)、標(biāo)簽優(yōu)化、網(wǎng)站營銷、網(wǎng)站建設(shè)網(wǎng)站改版

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

成都app開發(fā)公司