搜索引擎的蜘蛛是如何爬的，如何吸引蜘蛛來抓取頁面？

搜索引擎的工作過程大體可以分成三個階段：

(1)爬行和抓?。核阉饕嬷┲胪ㄟ^跟蹤鏈接發(fā)現(xiàn)和訪問頁面，讀取頁面HTML代碼，存到數(shù)據(jù)庫。

(2)預(yù)處理：索引程序?qū)ψト淼捻撁鏀?shù)據(jù)進(jìn)行文字提取、中文分詞、索引、倒排索引等處理，以備排名程序調(diào)用。

(3)排名：用戶輸入查詢詞(關(guān)鍵詞)后，排名程序調(diào)用索引數(shù)據(jù)，計算相關(guān)性，然后按一定格式生成搜索結(jié)果頁面。

搜索引擎的工作原理

爬行和抓取是搜索引擎工作的第一步，完成數(shù)據(jù)收集的任務(wù)。搜索引擎用來抓取頁面的程序被稱為蜘蛛(spider)

一個合格的SEOer，要想讓自己的更多頁面被收錄，就要想法設(shè)法吸引蜘蛛來抓取。

蜘蛛抓取頁面有幾方面因素：

(1)網(wǎng)站和頁面的權(quán)重，質(zhì)量高、時間長的網(wǎng)站一般被認(rèn)為權(quán)重比較高，爬行深度也會比較高，被收錄的頁面也會更多。

(2)頁面的更新頻率，蜘蛛每次爬行都會把頁面數(shù)據(jù)儲存起來，如果第二次，第三次的抓取和第一次的一樣，說明沒有更新，久而久之，蜘蛛也就沒有必要經(jīng)常抓取你的頁面啦。如果內(nèi)容經(jīng)常更新，蜘蛛就會頻繁訪問頁面，來抓取新的頁面。

(3)導(dǎo)入鏈接，不管是內(nèi)部鏈接還是外部鏈接，要想被蜘蛛抓取，就必須有導(dǎo)入鏈接進(jìn)入頁面，否則蜘蛛就不會知道頁面的存在。

(4)與首頁的點擊距離，一般網(wǎng)站上權(quán)重高的是首頁，大部分外部鏈接都會指向首頁，那么蜘蛛訪問最頻繁的頁面就是首頁，離首頁點擊距離越近，頁面權(quán)重越高，被爬行的機(jī)會越大。

吸引百度蜘蛛

如何吸引蜘蛛來抓取我們的頁面?

堅持有頻率的更新網(wǎng)站內(nèi)容，最好是高質(zhì)量的原創(chuàng)內(nèi)容。

主動向搜索引擎提供我們的新頁面，讓蜘蛛更快的發(fā)現(xiàn)，如百度的鏈接提交、抓取診斷等。

搭建外部鏈接，可以和相關(guān)的網(wǎng)站做友情鏈接交換，可以去別的平臺發(fā)布高質(zhì)量的文章指向自己的頁面，內(nèi)容要相關(guān)。

制作網(wǎng)站地圖，每個網(wǎng)站都應(yīng)該有一個sitemap，網(wǎng)站所有的頁面都在sitemap中，方便蜘蛛抓取。