robots.txt写错全禁,三个月零收录,改完配置,两周后开始收录流量回来

10年前 (2016-10-20)阅读1回复0
genmulu
genmulu
  • 管理员
  • 注册排名1
  • 经验值27950
  • 级别管理员
  • 主题5590
  • 回复0
楼主

新手做网站,robots.txt乱配置,把所有页面都禁了,搜索引擎一个页面都不收录,网站零流量,其实robots.txt简单配置,别挡着搜索引擎。第一,默认允许所有爬虫抓,别上来就Disallow: /;第二,把后台路径、临时目录、缓存目录,在robots里禁了,别让爬虫抓没用的内容;第三,别把文章目录禁了,不然内容全不收录;第四,配置完用站长工具测,看是不是真的允许抓内容。

我之前网站,robots.txt写错,把所有页面都禁了,三个月没收录,改完正确的robots,两周后开始收录,流量慢慢回来。很多新手觉得robots.txt随便写,写错了搜索引擎啥都不抓,网站等于白做。

本站源码来源于网络收集修改或者交换,甚至可能并非原创,如遇未经考证信息需持审慎态度。若有疑问,可联系本站处理。

本文地址:https://www.genmulu.cn/genmulu/3837.html

0
回帖

robots.txt写错全禁,三个月零收录,改完配置,两周后开始收录流量回来 期待您的回复!

取消
载入表情清单……
载入颜色清单……
插入网络图片

取消确定

图片上传中
编辑器信息
提示信息