SEO高手需要懂得什么呢?

2016-10-27    分類(lèi): 網(wǎng)站建設(shè)

robots協(xié)議書(shū)是正確引導(dǎo)蛛蛛抓取網(wǎng)站地形圖,也用于維護(hù)網(wǎng)站信息和比較靈敏信息內(nèi)容,保證客戶(hù)私家信息和隱私維護(hù)不被損害。存有于網(wǎng)站根目錄正,以文件格式存有,留意robots文件夾名稱(chēng)不可以隨意改變。

SEO高手為什么要懂robots?

書(shū)寫(xiě)::表達(dá)關(guān)于某一爬蟲(chóng),

:表達(dá)制止抓取

:容許抓取

.*通配符,表達(dá)悉數(shù)

.$結(jié)束符,表達(dá)以哪些結(jié)尾

/根域下就是指網(wǎng)站根目錄

注:灶具顯現(xiàn)英文情況下的,并且后邊有一個(gè)空格符,首寫(xiě)有必要小寫(xiě)。

例:

1、User-agent:*Disallow:/關(guān)于悉數(shù)爬蟲(chóng)制止抓取根目錄下的悉數(shù)銜接

2、User-agent:BaiduspiderDisallow:/制止百度爬蟲(chóng)抓取網(wǎng)站悉數(shù)聯(lián)接

3、User-agent:*Disallow:/a/關(guān)于悉數(shù)的爬蟲(chóng)制止抓取網(wǎng)站根目錄下的a目錄

4、User-agent:*Disallow:/a關(guān)于悉數(shù)的爬蟲(chóng)制止抓取網(wǎng)站根目錄下為“a”開(kāi)端的文檔

5、User-agent:*Disallow:/*?*(?表達(dá)動(dòng)態(tài)性符)制止抓取網(wǎng)站根目錄下帶?號(hào)的動(dòng)態(tài)性銜接

6、User-agent:*Disallow:/*.js$制止抓取網(wǎng)站根目錄下邊以.js結(jié)尾的文檔

7、User-agent:*Disallow:/a/Allow:/a/b/制止抓取網(wǎng)站根目錄下邊“a”,容許抓取“a”目錄下邊的“b”目錄。

8、User-agent:*Disallow:/a/Allow:/a/b制止抓取網(wǎng)站根目錄下邊“a”目錄,容許抓取“a”目錄中以“b”開(kāi)端的文檔。

分享名稱(chēng):SEO高手需要懂得什么呢?
URL分享:http://www.muchs.cn/news/53185.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供動(dòng)態(tài)網(wǎng)站、電子商務(wù)、營(yíng)銷(xiāo)型網(wǎng)站建設(shè)網(wǎng)頁(yè)設(shè)計(jì)公司、外貿(mào)網(wǎng)站建設(shè)、云服務(wù)器

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話(huà):028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

搜索引擎優(yōu)化