为禁止搜索引擎爬虫,之前写了个 robots.txt 文件放在网站根目录下
记得以前用站长工具测下来, robots.txt 怎么写的,那么测出来的就是相应内容
然而小于等于 1 个月前,开始发现测出来的 robots.txt 内容,不再是自己写的内容
前几天干脆删了 robots 文件,然后今天经工具测试,说是 robots.txt 依旧有效
顿时我莫名了……
异想天开的问题是: robots.txt 这文件,记得必须是上传在网站根目录下的?
既然我没加,别人应该不可能通过其他方式“替我”设置了 robots.txt 这玩意儿吧?
1
Sn0wM4n 2016-03-09 21:33:28 +08:00
.htaccess 文件呢?
|
3
jugelizi 2016-03-09 21:57:01 +08:00
|
4
pi1ot 2016-03-09 22:20:52 +08:00
可能是你使用的测试工具自己的问题
|