无码人妻视频一区二区三区,亚洲国产精品色一区二区三区色牛,亚洲国产中文精品碰碰,九九视频这里只有精品

1936瀏覽量

什么是robots.txt要怎么寫(xiě)?

來(lái)源: 時(shí)間:2012-12-10

作為一名SEOer大家肯定是知道搜索蜘蛛的,但是關(guān)于robots.txt這個(gè)搜索蜘蛛遵循協(xié)議,卻鮮少有人談起,其實(shí)用好robots是很容易為你網(wǎng)站提權(quán)的。

第一,用robots屏蔽網(wǎng)站重復(fù)頁(yè)

很多網(wǎng)站一個(gè)內(nèi)容提供多種瀏覽版本,雖然很方便用戶卻對(duì)蜘蛛造成了困難,因?yàn)樗植磺迥莻€(gè)是主,那個(gè)是次,一旦讓它認(rèn)為你在惡意重復(fù),兄弟你就慘了

User-agent: *

Disallow: /sitemap/ 《禁止蜘蛛抓取 文本網(wǎng)頁(yè)》

第二,用robots保護(hù)網(wǎng)站安全

很多人納悶了,robots怎么還和網(wǎng)站安全有關(guān)系了?其實(shí)關(guān)系還很大,不少低級(jí)黑客就是通過(guò)搜索默認(rèn)后臺(tái)登陸,以達(dá)到入侵網(wǎng)站的目標(biāo)

User-agent: *

Disallow: /admin/ 《禁止蜘蛛抓取admin目錄下所有文件》

第三,防止盜鏈

一般盜鏈也就幾個(gè)人,可是一旦被搜索引擎“盜鏈”那家伙你100M寬帶也吃不消,如果你做的不是圖片網(wǎng)站,又不想被搜索引擎“盜鏈”你的網(wǎng)站圖片

User-agent: *

Disallow: .jpg$

第四,提交網(wǎng)站地圖

現(xiàn)在做優(yōu)化的都知道做網(wǎng)站地圖了,可是卻沒(méi)幾個(gè)會(huì)提交的,絕大多數(shù)人是干脆在網(wǎng)頁(yè)上加個(gè)鏈接,其實(shí)robots是支持這個(gè)功能的

Sitemap: http://www.010wangzhanyouhua.com/sitemaps/sitemaps_1.xml

第五,禁止某二級(jí)域名的抓取

一些網(wǎng)站會(huì)對(duì)VIP會(huì)員提供一些特殊服務(wù),卻又不想這個(gè)服務(wù)被搜索引擎檢索到

User-agent: *

Disallow: /

聯(lián)系我們

一次需求提交或許正是成就一個(gè)出色產(chǎn)品的開(kāi)始。
歡迎填寫(xiě)表格或發(fā)送合作郵件至: qczsky@126.com

大理青橙科技

電話:13988578755 13988578755

郵箱:qczsky@126.com

地址:大理市下關(guān)龍都春天10層

如果您無(wú)法識(shí)別驗(yàn)證碼,請(qǐng)點(diǎn)圖片更換

云梦县| 清新县| 定结县| 盱眙县| 济阳县| 秦安县| 曲沃县| 砚山县| 红安县| 清徐县| 桂阳县| 怀仁县| 南投市| 云梦县| 江安县| 邢台县| 明光市| 郯城县| 高邮市| 东宁县| 莱州市| 建平县| 晋州市| 巍山| 禄丰县| 江油市| 枞阳县| 淄博市| 酒泉市| 永胜县| 射阳县| 县级市| 金阳县| 阿拉善左旗| 江山市| 张家界市| 洛宁县| 新宁县| 襄樊市| 盈江县| 友谊县|