蜘蛛抓取失敗的原因有那些，服務(wù)器導(dǎo)致蜘蛛抓取失敗的原因

服務(wù)器是網(wǎng)站生存的基礎(chǔ)，不論是什么原因造成的服務(wù)器封禁，都直接影響蜘蛛的抓取，影響網(wǎng)站的用戶體驗，不利于seo工作的展開。我其將以自己的親身經(jīng)歷，結(jié)合網(wǎng)絡(luò)上一些朋友對這類問題的分析，總結(jié)出造成服務(wù)器封禁的三點主要原因：

1、人為操作失誤

對搜索引擎蜘蛛認(rèn)識不夠，對一些冒充搜索引擎spider的IP無法正確判斷，繼而誤封搜索引擎IP。這樣會導(dǎo)致搜索引擎不能成功抓取網(wǎng)站，無法成功抓取新網(wǎng)頁，以及將之前已經(jīng)成功抓取并收錄的頁面判定為無效鏈接，然后搜索引擎將會對這些死鏈接進(jìn)行清除，繼而網(wǎng)站頁面收錄減少，最終導(dǎo)致網(wǎng)站在搜索引擎的排名下降。

解決方法：正確認(rèn)識各搜索引擎蜘蛛，而搜索引擎使用的 IP 地址會隨時發(fā)生變化，為確保能夠正確識別各搜索引擎IP，您可以使用DNS反查方式來確定抓取來源的IP是否屬于正規(guī)搜索引擎，防止誤封。

2、服務(wù)器不穩(wěn)定

現(xiàn)在的服務(wù)器多如牛毛，價格也各不相同，質(zhì)量方面也是相差甚遠(yuǎn)，站長們往往在選擇的時候都是“只認(rèn)價不認(rèn)質(zhì)”， 有的空間商為了節(jié)省資源，故意屏蔽掉spider（蜘蛛）的IP，導(dǎo)致spider抓取失敗，網(wǎng)站頁面就無法被搜索引擎收錄。

解決方法：選擇有實力的正規(guī)空間商，盡可能保證您的網(wǎng)站穩(wěn)定。服務(wù)器和空間的穩(wěn)定性需要一定的技術(shù)實力來保障，一些沒有實力的空間商，可能無力提供良好的服務(wù)，服務(wù)的穩(wěn)定性無法保證。我們可以很形像的打個比喻：如果將“人”比喻為網(wǎng)站內(nèi)容，那么服務(wù)器就是我們的“家”，它為我們擋風(fēng)避雨，為我們的生存提供了一個優(yōu)良的環(huán)境，而服務(wù)器的好壞將影響我們所能承受的風(fēng)險。我想，誰都不愿意住在沒有安全保障的屋子里，拿自己的生命開玩笑，同理，網(wǎng)站也是如此！如果您現(xiàn)在的服務(wù)器不理想，有必要另選時，請暫時讓舊服務(wù)器能夠使用一段時間，并且做301跳轉(zhuǎn)，盡量減少更換服務(wù)器帶來的一系列損失。

3、保護(hù)性的偶然封禁

1、如果網(wǎng)站的訪問量過大，超過自身負(fù)荷，服務(wù)器會根據(jù)自身負(fù)荷進(jìn)行保護(hù)性的偶然封禁。這種封禁是短暫性的，只要訪問量下降到服務(wù)器的承受范圍之內(nèi)，那么服務(wù)器就會正常工作。

2、還有一種情況是spider造成的，搜索引擎為了達(dá)到對目標(biāo)資源較好的檢索效果，蜘蛛需要對您的網(wǎng)站保持一定量的抓取。搜索引擎會根據(jù)服務(wù)器承受能力，網(wǎng)站質(zhì)量，網(wǎng)站更新等綜合因素來進(jìn)行調(diào)整， 建立一個合理的站點抓取壓力。但是會有一些例外，在壓力控制不好的情況下，服務(wù)器會根據(jù)自身負(fù)荷進(jìn)行保護(hù)性的偶然封禁。

解決方法：1、如果是訪問量造成的壓力，那么恭喜你，說明你的網(wǎng)站已經(jīng)擁有可觀的訪問人數(shù)，我們就應(yīng)該升級服務(wù)器，來滿足不段增長的訪問量。2、如果是spider造成的，我們可以采用如下方式來減輕spider對服務(wù)器產(chǎn)生的壓力：A、利用robots文件，屏蔽掉不想被spider抓取的頁面。B、采用nofollow標(biāo)簽，屏蔽不想被spider爬行的鏈接。C、頁面中較長的CSS、JS代碼移到外部文件。D、刪減多余代碼。應(yīng)當(dāng)注意的是，以上兩種情況在返回的代碼中盡量不要使用404，建議返回503（其含義是“Service Unavailable”）。這樣spider會過段時間再來嘗試抓取這個鏈接，如果那個時間站點空閑，那它就會被成功抓取了。

文章題目：蜘蛛抓取失敗的原因有那些，服務(wù)器導(dǎo)致蜘蛛抓取失敗的原因
文章源于：http://www.muchs.cn/news13/162163.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應(yīng)網(wǎng)站、搜索引擎優(yōu)化、軟件開發(fā)、靜態(tài)網(wǎng)站、品牌網(wǎng)站建設(shè)、手機(jī)網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)