站長(zhǎng)平臺(tái)lee：搜索引擎索引系統(tǒng)概述

互聯(lián)網(wǎng)資源龐大的數(shù)量級(jí)，這就要求抓取系統(tǒng)盡可能的高效利用帶寬，在有限的硬件和帶寬資源下盡可能多的抓取到有價(jià)值資源。這就造成了另一個(gè)問(wèn)題，耗費(fèi)被抓網(wǎng)站的帶寬造成訪問(wèn)壓力，如果程度過(guò)大將直接影響被抓網(wǎng)站的正常用戶訪問(wèn)行為。因此，在抓取過(guò)程中就要進(jìn)行一定的抓取壓力控制，達(dá)到既不影響網(wǎng)站的正常用戶訪問(wèn)又能盡量多的抓取到有價(jià)值資源的目的。通常情況下，最基本的是基于ip的壓力控制。這是因?yàn)槿绻谟蛎?，可能存在一個(gè)域名對(duì)多個(gè)ip(很多大網(wǎng)站)或多個(gè)域名對(duì)應(yīng)同一個(gè)ip(小網(wǎng)站共享ip)的問(wèn)題。實(shí)際中，往往根據(jù)ip及域名的多種條件進(jìn)行壓力調(diào)配控制。同時(shí)，站長(zhǎng)平臺(tái)也推出了壓力反饋工具，站長(zhǎng)可以人工調(diào)配對(duì)自己網(wǎng)站的抓取壓力，這時(shí)百度spider將優(yōu)先按照站長(zhǎng)的要求進(jìn)行抓取壓力控制。1) 最常見(jiàn)的404代表NOT FOUND，認(rèn)為網(wǎng)頁(yè)已經(jīng)失效，通常將在庫(kù)中刪除，同時(shí)短期內(nèi)如果spider再次發(fā)現(xiàn)這條url也不會(huì)抓取;

2) 503代表ServiceUnavailable，認(rèn)為網(wǎng)頁(yè)臨時(shí)不可訪問(wèn)，通常網(wǎng)站臨時(shí)關(guān)閉，帶寬有限等會(huì)產(chǎn)生這種情況。對(duì)于網(wǎng)頁(yè)返回503狀態(tài)碼，百度spider不會(huì)把這條url直接刪除，同時(shí)短期內(nèi)將會(huì)反復(fù)訪問(wèn)幾次，如果網(wǎng)頁(yè)已恢復(fù)，則正常抓取;如果繼續(xù)返回503，那么這條url仍會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

3)403代表Forbidden，認(rèn)為網(wǎng)頁(yè)目前禁止訪問(wèn)。如果是新url，spider暫時(shí)不抓取，短期內(nèi)同樣會(huì)反復(fù)訪問(wèn)幾次;如果是已收錄url，不會(huì)直接刪除，短期內(nèi)同樣反復(fù)訪問(wèn)幾次。如果網(wǎng)頁(yè)正常訪問(wèn)，則正常抓取;如果仍然禁止訪問(wèn)，那么這條url也會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

4)301 代表是MovedPermanently，認(rèn)為網(wǎng)頁(yè)重定向至新url。當(dāng)遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí)，我們推薦使用301返回碼，同時(shí)使用站長(zhǎng)平臺(tái)網(wǎng)站改版工具，以減少改版對(duì)網(wǎng)站流量造成的損失。

3、多種url 重定向的識(shí)別

互聯(lián)網(wǎng)中一部分網(wǎng)頁(yè)因?yàn)楦鞣N各樣的原因存在url重定向狀態(tài)，為了對(duì)這部分資源正常抓取，就要求spider對(duì)url重定向進(jìn)行識(shí)別判斷，同時(shí)防止作弊行為。重定向可分為三類：http30x重定向、meta refresh重定向和js重定向。另外，百度也支持Canonical標(biāo)簽，在效果上可以認(rèn)為也是一種間接的重定向。

4、抓取優(yōu)先級(jí)調(diào)配

由于互聯(lián)網(wǎng)資源規(guī)模的巨大以及迅速的變化，對(duì)于搜索引擎來(lái)說(shuō)全部抓取到并合理的更新保持一致性幾乎是不可能的事情，因此這就要求抓取系統(tǒng)設(shè)計(jì)一套合理的抓取優(yōu)先級(jí)調(diào)配策略。主要包括：深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì)化分享指導(dǎo)策略等等。每個(gè)策略各有優(yōu)劣，在實(shí)際情況中往往是多種策略結(jié)合使用以達(dá)到最優(yōu)的抓取效果。

5、重復(fù)url 的過(guò)濾

spider在抓取過(guò)程中需要判斷一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了，如果還沒(méi)有抓取再進(jìn)行抓取網(wǎng)頁(yè)的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對(duì)比，同時(shí)涉及到url歸一化識(shí)別，例如一個(gè)url中包含大量無(wú)效參數(shù)而實(shí)際是同一個(gè)頁(yè)面，這將視為同一個(gè)url來(lái)對(duì)待。

6、暗網(wǎng)數(shù)據(jù)的獲取

互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時(shí)無(wú)法抓取到的數(shù)據(jù)，被稱為暗網(wǎng)數(shù)據(jù)。一方面，很多網(wǎng)站的大量數(shù)據(jù)是存在于網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中，spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內(nèi)容;另一方面，由于網(wǎng)絡(luò)環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等等問(wèn)題，也會(huì)造成搜索引擎無(wú)法抓取。目前來(lái)說(shuō)，對(duì)于暗網(wǎng)數(shù)據(jù)的獲取主要思路仍然是通過(guò)開(kāi)放平臺(tái)采用數(shù)據(jù)提交的方式來(lái)解決，例如百度站長(zhǎng)平臺(tái)百度開(kāi)放平臺(tái)等等。

分享文章：站長(zhǎng)平臺(tái)lee：搜索引擎索引系統(tǒng)概述
文章地址：http://www.muchs.cn/news27/133227.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應(yīng)網(wǎng)站、小程序開(kāi)發(fā)、全網(wǎng)營(yíng)銷(xiāo)推廣、外貿(mào)網(wǎng)站建設(shè)、企業(yè)網(wǎng)站制作、App設(shè)計(jì)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)