專(zhuān)業(yè)SEO技術(shù)：蜘蛛spider的抓取方式

對(duì)于搜索引擎來(lái)說(shuō)，要抓取互聯(lián)網(wǎng)上所有的網(wǎng)頁(yè)幾乎是不可能的。那么蜘蛛是怎么抓取的呢?今天創(chuàng)新互聯(lián)就繼續(xù)來(lái)討論：搜索引擎的工作原理還有哪些?一起來(lái)看看!

從目前公布的數(shù)據(jù)來(lái)看，容量大的搜索引擎也不過(guò)是抓取了整個(gè)網(wǎng)頁(yè)數(shù)量的40%左右。這其中的原因一方面是抓取技術(shù)的瓶頸，無(wú)法遍歷所有的網(wǎng)頁(yè)，有許多網(wǎng)頁(yè)無(wú)法從其他網(wǎng)頁(yè)的鏈接中找到;另一方面是存儲(chǔ)技術(shù)和處理技術(shù)的問(wèn)題。如果按照每個(gè)頁(yè)面的平均大小為20K計(jì)算(包含圖片)，100億網(wǎng)頁(yè)的容量是100-2000G字節(jié)。即使能過(guò)存儲(chǔ)，下載也存在問(wèn)題(按照一臺(tái)機(jī)器每秒下載20K計(jì)算，需要240臺(tái)機(jī)器不停地下載一年時(shí)間，才能把所有網(wǎng)頁(yè)下載完畢)。

同時(shí)，由于數(shù)據(jù)量太大，在提供搜索時(shí)也會(huì)有效率方面的影響。因此，許多搜索引擎的搜索引擎蜘蛛只是抓取哪些重要的網(wǎng)頁(yè)，而在抓取的時(shí)候，評(píng)價(jià)重要性主要的依據(jù)是某個(gè)網(wǎng)頁(yè)的鏈接深度。

在抓取網(wǎng)頁(yè)的時(shí)候，搜索引擎蜘蛛一般有兩種策略：廣度優(yōu)先和深度優(yōu)先。廣度優(yōu)先是指搜索引擎蜘蛛會(huì)先抓取起始網(wǎng)頁(yè)中鏈接的所有網(wǎng)頁(yè)，然后再選擇其中一個(gè)鏈接網(wǎng)頁(yè)，繼續(xù)花去在此網(wǎng)頁(yè)中鏈接的所有網(wǎng)頁(yè)。這是最常用的方式，因?yàn)檫@個(gè)方法可以讓搜索引擎并行處理，提高其抓取速度。深度優(yōu)先是指搜索引擎蜘蛛會(huì)從起始頁(yè)開(kāi)始，一個(gè)鏈接一個(gè)鏈接跟蹤下去，處理完這條線路之后再轉(zhuǎn)入下一個(gè)起始頁(yè)，繼續(xù)跟蹤鏈接。這個(gè)方法有個(gè)優(yōu)點(diǎn)是搜索引擎蜘蛛在設(shè)計(jì)的時(shí)候比較容易。

由于不可能抓取所有的網(wǎng)頁(yè)，有些搜索引擎蜘蛛對(duì)一些不太重要的網(wǎng)站，設(shè)置了訪問(wèn)的層數(shù)如下圖，A為起始網(wǎng)頁(yè)，屬于0層，B、C、D、E、F屬于第1層，G、H屬于第2層，I屬于第3層。如果搜索引擎蜘蛛設(shè)置的訪問(wèn)層數(shù)為2的話，網(wǎng)頁(yè)I是不會(huì)被訪問(wèn)到的。這也讓有些網(wǎng)站上的一部分網(wǎng)頁(yè)能夠在搜索引擎上搜索到，另外一部分不能被搜索到。對(duì)于網(wǎng)站設(shè)計(jì)者來(lái)說(shuō)，扁平化的網(wǎng)站結(jié)構(gòu)設(shè)計(jì)有助于搜索引擎抓取其更多的網(wǎng)頁(yè)。

搜索引擎蜘蛛在訪問(wèn)網(wǎng)站網(wǎng)頁(yè)的時(shí)候，經(jīng)常會(huì)遇到加密數(shù)據(jù)和為網(wǎng)頁(yè)權(quán)限的問(wèn)題，有些網(wǎng)頁(yè)是需要有會(huì)員權(quán)限才能訪問(wèn)的。當(dāng)然，網(wǎng)站的所有者可以通過(guò)協(xié)議讓搜索引擎只注意不去抓取，但對(duì)于一些出售報(bào)告的網(wǎng)站，他們希望搜索引擎能搜索到他們的報(bào)告，但又不能完全免費(fèi)地讓搜索者查看，這樣就需要給搜索引擎蜘蛛提供相應(yīng)的用戶名和密碼。搜索引擎蜘蛛可以通過(guò)所給的權(quán)限對(duì)這些網(wǎng)頁(yè)進(jìn)行網(wǎng)頁(yè)抓取，從而提供搜索。而當(dāng)搜索者點(diǎn)擊查看該網(wǎng)頁(yè)的時(shí)候，同樣需要搜索者提供相應(yīng)的權(quán)限驗(yàn)證。

網(wǎng)頁(yè)題目：專(zhuān)業(yè)SEO技術(shù)：蜘蛛spider的抓取方式
URL地址：http://muchs.cn/news18/23518.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應(yīng)網(wǎng)站、網(wǎng)站導(dǎo)航、移動(dòng)網(wǎng)站建設(shè)、定制網(wǎng)站、建站公司、微信小程序

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)