SEO网站优化robots.txt使用中常见的误区
比如有很多人这样写:
User-agent: *
Allow: /
Disallow: /mulu/
想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面,禁止抓取/mulu/下面的所有url。
SEO网站优化搜索引擎蜘蛛执行的规则是从上到下,这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上,这样才会生效。
误区2.Disallow命令和Allow命令之后没有以斜杠”/”开头。
这个也很容易被忽视,比如有人这样写Disallow: 123.html ,这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置,如果不带的话,自然无法判断url是哪个,所以是错误的。
正确的应该是Disallow: /123.html,这样才能屏蔽/123.html这个文件,这条规则才能生效。
误区3.屏蔽的目录后没有带斜杠”/”。
也就是比如想屏蔽抓取/mulu/这个目录,有些人这样写Disallow: /mulu。那么这样是否正确呢?
首先这样写(Disallow: /mulu)确实可以屏蔽/mulu/下面的所有url,不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面,效果等同于Disallow: /mulu*。
正确的做法是,如果只想屏蔽目录,那么必须在结尾带上斜杠”/”。
本文发布于北京网站制作公司EMC易倍体育官方 中国//dinglils.com/
推荐新闻
更多行业-
注册域名要考虑的问题有哪些?
一、选用企业已有商标成企业名称如能将企业名称与域名统一,可以营造完整立...
2014-06-25 -
友情链接中的几个应该注意的小问题
最重要的就是看对方网站建设的整体情况了看是不是对方的资源站,说了上边基...
2012-06-19 -
反垄断 不能忽略互联网霸权
大树下面不长小草。这是互联网领域的典型生态现象。和现实空间相比,网络空...
2015-01-19 -
专业网站建设中网站降权如何分析原因
友情连接,可能导致网站功率降低的概率最大,特别是在百度优化的过程中,百...
2021-08-19 -
网站建设合理的网站结构设置也对后期的优化有利?
网站本身的结构可以影响网站的权重分布和网站优化的结果。只有合理的网站结...
2020-10-27 -
北京外贸营销网站建设费用多少?
网站规模是决定费用的主要因素之一。一个小型的外贸营销网站只包含少量的页...
2023-04-14
预约专业咨询顾问沟通!
免责声明
非常感谢您访问我们的网站。在您使用本网站之前,请您仔细阅读本声明的所有条款。
1、本站部分内容来源自网络,涉及到的部分文章和图片版权属于原作者,本站转载仅供大家学习和交流,切勿用于任何商业活动。
2、本站不承担用户因使用这些资源对自己和他人造成任何形式的损失或伤害。
3、本声明未涉及的问题参见国家有关法律法规,当本声明与国家法律法规冲突时,以国家法律法规为准。
4、如果侵害了您的合法权益,请您及时与我们,我们会在第一时间删除相关内容!
联系方式:010-60259772
电子邮件:394588593@qq.com