搜索引擎收錄原理

搜索引擎收錄原理
搜索引擎收錄頁面實際上就是在互聯(lián)網(wǎng)上進行數(shù)據(jù)采集，這是搜索引擎最基礎(chǔ)的工作。搜索引擎的數(shù)據(jù)采集能力直接決定搜索引擎可提供的信息量及對互聯(lián)網(wǎng)覆蓋的范圍，從而決定搜索引擎的質(zhì)量。因此，搜索引擎總是想方設(shè)計地提高其數(shù)據(jù)采集能力。（成都網(wǎng)站制作）
1.頁面收錄流程
在互聯(lián)網(wǎng)中，URL是每個頁面的入口地址，搜索引擎蜘蛛程序就是通過URL抓取到頁面的。搜索引擎蜘蛛程序從URL列表出發(fā)，通過URL抓取并存儲頁面；同時，提取原始頁面中的URL資源并加入到URL列表中。如此不斷地循環(huán)，就可以從互聯(lián)網(wǎng)中獲取足夠多的頁面。
URL是頁面的入口，而域名則是網(wǎng)站的入口。搜索引擎蜘蛛程序通過域名進入網(wǎng)站，從而展開對網(wǎng)站頁面的抓取。換而言之，搜索引擎要在互聯(lián)網(wǎng)上抓取到頁面的首要任務(wù)就是建立一個足夠大的域名列表，再通過域名進入相應(yīng)的網(wǎng)站，從而抓取網(wǎng)站中的頁面。
而對于網(wǎng)站來說，如果想要被搜索引擎收錄，首要條件就是加入搜索引擎的域名列表。下面向讀者介紹兩種常用的加入搜索引擎域名列表的方法。
第一，利用搜索引擎提供的網(wǎng)站登錄入口，向搜索引擎提交網(wǎng)站域名，例如Google的網(wǎng)站登錄地址是https://www.google.com/intl/zh-CN/webmasters/#?modal_active=none，可在此提交自己的網(wǎng)站域名。對于提交的域名列表，搜索引擎只會定期進行更新。因此，這種做法比較被動，從域名提交到網(wǎng)站被收錄花費的時間也比較長。
第二，通過與外部網(wǎng)站建立鏈接關(guān)系，使搜索引擎可以通過外部網(wǎng)站發(fā)現(xiàn)我們的網(wǎng)站，從而實現(xiàn)對網(wǎng)站的收錄。這種做法的主動權(quán)掌握在我們自己的手里（只要我們擁有足夠多高質(zhì)量的鏈接即可），縣域收錄速度也比向搜索引擎主動提交要快得多。根據(jù)外部鏈接的數(shù)量、質(zhì)量及相關(guān)性，一般情況下，2-7天左右就會被搜索引擎收錄。
2.頁面收錄原理
通過上面的介紹，相信讀者已經(jīng)掌握了網(wǎng)站被搜索引擎收錄的方法。然而，怎樣才能提高網(wǎng)站中頁面被收錄的數(shù)量呢？要回答這個問題，就要先了解搜索引擎收錄頁面的工作原理。
如果把網(wǎng)站頁面組成的集合看作是一個有向圖，從指定的頁面出發(fā)，沿著頁面中的鏈接，按照某種特定的策略對網(wǎng)站中的頁面進行遍歷。不停地從URL列表中移出已經(jīng)訪問過的URL，并存儲原始頁面，同時提取原始頁面中的URL信息；再將URL分為域名及部URL兩大類，同時判斷資源為止。經(jīng)過這些工作，搜索引擎就可以建立龐大的域名列表、頁面URL列表并存儲足夠多的原始頁面。
3.頁面收錄方式
上面已經(jīng)介紹了搜索引擎收錄頁面的流程及原理。然而，在互聯(lián)網(wǎng)數(shù)以億計的頁面中，搜索引擎怎樣才能從中抓取到相對重要的頁面呢？這就是涉及搜索引擎的頁面收錄方式。
頁面收錄方式是指搜索引擎抓取頁面時所使用的策略，是為了能在互聯(lián)網(wǎng)中篩選出相對重要的信息。頁面收錄方式的制定取決于搜索引擎對網(wǎng)站結(jié)構(gòu)的理解。如果使用相冊的抓取策略，搜索引擎在同樣的時間內(nèi)可以在某一網(wǎng)站中抓取到更多的頁面資源，則會在該網(wǎng)站上停留更長的時間，收錄的頁面數(shù)自然也就更多。因此，加深對搜索引擎頁面收錄方式的認(rèn)識，有利于為網(wǎng)站建立友好的結(jié)構(gòu)，提高頁面被收錄的數(shù)量。

>>廣度優(yōu)先

如果把整個網(wǎng)站看作是一棵樹，首頁就是根，每個頁面就是葉子。廣度優(yōu)先是一種橫向的頁面抓取方式，先從樹的較淺層開始抓取頁面，直至抓取完同層次的所有頁面后才進入下一層。因此，在對網(wǎng)站進行優(yōu)化時，我們應(yīng)該把網(wǎng)站中相對重要的信息展示在層次較淺的頁面上（例如，在首頁上推薦一些熱門產(chǎn)品或者內(nèi)容）。反過來，通過廣度優(yōu)先的抓取方式，搜索引擎就可以優(yōu)先抓取到網(wǎng)站中相對重要的頁面。(高端網(wǎng)站建設(shè))
首先，搜索引擎從網(wǎng)站首頁出發(fā)，抓取首頁上所有鏈接指向的頁面，形成頁面集合A，并解析出集合A中所有頁面的鏈接；再跟蹤這些鏈接抓取下一層的頁面，形成頁面集合B；就這樣遞歸地從線層頁面中解析出鏈接，從而抓取深層頁面，直至滿足了某個設(shè)定的條件才停止抓取進程。
>>深度優(yōu)先

與廣度優(yōu)先的抓取方式相反，深度優(yōu)先首先跟蹤線層頁面中的某一鏈接逐步抓取深層頁面，直至抓取完最深層的頁面后才返回淺層頁面再跟蹤其另一鏈接，繼續(xù)向深層頁面抓取，這是一種頁面，這樣就能滿足更多用戶的需求。