百度搜索引擎蜘蛛剖析

怎么看百度蜘蛛是否來過?怎么正確識(shí)別百度蜘蛛?怎么進(jìn)行蜘蛛的抓取診斷?怎么經(jīng)過百度蜘蛛IP得知網(wǎng)站狀態(tài)?

一、怎么檢查百度蜘蛛是否過來網(wǎng)站

可以經(jīng)過檢查網(wǎng)站日志進(jìn)行剖析。Windows服務(wù)器的IIS與Linux服務(wù)器的apache都有記載網(wǎng)站日志的功用。

二、怎么區(qū)分百度蜘蛛

百度官方給出的區(qū)分百度蜘蛛的辦法如下。

1、檢查UA

首先要UA正確，百度公布過的UA有如下這些。

移動(dòng)UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+)

PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0;+)

新增烘托UA:

移動(dòng)UA：Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143Safari/601.1 (compatible; Baiduspider-render/2.0; +)

PC UA：Mozilla/5.0 (compatible;Baiduspider-render/2.0; +)

三、怎么經(jīng)過百度蜘蛛IP得知網(wǎng)站狀態(tài)

1、抓取你網(wǎng)站的網(wǎng)頁蜘蛛

60.172.229.61

61.129.45.72

61.135.162.*

2、百度競(jìng)價(jià)蜘蛛

61.135.165.134

117.34.74.66

118.122.188.194

119.63.196.9

125.39.78.185

3、百度統(tǒng)計(jì)的蜘蛛

61.135.186.*

4、站長(zhǎng)東西的仿照的百度蜘蛛

61.147.98.146

61.188.39.16

113.98.254.245

117.21.220.245

117.28.255.42

5、搜外站長(zhǎng)東西的仿照的百度蜘蛛

124.248.34.52

6、114站長(zhǎng)東西箱仿照的百度蜘蛛

119.147.114.213

121.10.141.*

7、百度圖片蜘蛛

123.15.**.**

8、抓取網(wǎng)站內(nèi)頁錄入的權(quán)重較低的非原創(chuàng)，需要經(jīng)過一段時(shí)間調(diào)查

123.125.71.*

9、站長(zhǎng)東西檢測(cè)造成的無用

125.90.88.*

10、百度調(diào)查期蜘蛛或降權(quán)蜘蛛

159.226.50.*

180.76.5.*

180.76.5.87

220.181.158.107

11、假裝百度蜘蛛

180.149.130.*

12、新站及站點(diǎn)有不正?，F(xiàn)象

183.91.40.144

203.208.60.*

13、不間斷巡查各站就是路過

210.72.225.*

14、沙盒或者有被K站

123.125.68.*

218.30.118.102

220.181.68.*

15、此ip爬過的文章或首頁，肯定24小時(shí)內(nèi)放出來和隔夜快照

220.181.108.*

16、百度蜘蛛IP來過，預(yù)備抓取

123.125.66.*

220.181.7.*

17、度過新站調(diào)查期

121.14.89.*

18、百度抓取首頁的專用IP，網(wǎng)站首頁快照更新快，隔夜更新

220.181.108.95

19、百度的權(quán)重IP段，抓取的文章第二天放出來，權(quán)重較高

220.181.108.92

20、綜合性權(quán)重IP，抓取文章和首頁，權(quán)重較高

220.181.108.91

220.181.108.75

21、抓取內(nèi)頁錄入的，但權(quán)重較低

123.125.71.95

123.125.71.97

123.181.108.77

123.125.71.106

22、抓取網(wǎng)站首頁的，也屬于權(quán)重段，權(quán)重較高。

220.181.108.89

220.181.108.94

220.181.108.97

220.181.108.80

220.181.108.77

220.181.108.83

220.181.108.86

網(wǎng)站題目：百度搜索引擎蜘蛛剖析
當(dāng)前URL：http://muchs.cn/news13/248863.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供小程序開發(fā)、定制網(wǎng)站、網(wǎng)站策劃、虛擬主機(jī)、ChatGPT、商城網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)