欢迎光临
让我们一起努力

robots具体应该禁止些什么文件

 

网上robots的写法,说法一大堆,也不知谁对谁错,到底robots该禁止那些文件呢?

今天大概总结一下: 首先说明一点:每天百度派出的蜘蛛是有限的,robots写出来是为了节省蜘蛛资源让蜘蛛能更快的进行有效爬取和收录!

针对企业站来说,本身蜘蛛资源不会很多

,所以我们更要珍惜蜘蛛的每次爬取,让其都有意义,不要去爬取一些无价值的页面,浪费了蜘蛛资源,从而导致网站迟迟未收录,没排名等情况! 下面举例列出来: 1、模板文件(/template/)可以屏蔽; 2、这个文件/uploads/一般放的是图片,可以屏蔽; 3、/data/系统数据文件,可以屏蔽; 4、/img/或/images/,如果你不是做的图片站,也可以屏蔽; 5、/bin/系统文件可以屏蔽; 6、/install/安装文件可以屏蔽; 7、/member/有会员的可以屏蔽; 8、/logreport/有统计报告的可以屏蔽; 9、/bjk/有加密的文件,可以屏蔽; 10、/js/,/css/可以屏蔽,留着是为了让蜘蛛更好地了解网站结构,资源少的情况下,可以屏蔽。 11、网站地图,sitemap要记得放进去,不要屏蔽,让蜘蛛第一时间去看你的网站地图,更快了解网站链接结构! 总结到此,希望对大家有些帮助!

文章来源:懒猫seo博客

来源地址:http://www.lanmaoseo.com/seowzyh/6978.html

申请创业报道,分享创业好点子。,共同探讨创业新机遇!

 收藏 (0) 打赏

您可以选择一种方式赞助本站

支付宝扫一扫赞助

微信钱包扫描赞助

本作品采用CC BY-NC-SA 4.0进行许可:小李子的blog » robots具体应该禁止些什么文件

分享到: 生成海报
avatar

评论 抢沙发

CAPTCHAis initialing...
  • QQ号
  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
切换注册

登录

忘记密码 ?

切换登录

注册

我们将发送一封验证邮件至你的邮箱, 请正确填写以完成账号注册和激活