欢迎访问 夜阑小雨 我的学习碎片档案,这里记录了我的学习内容和工作中经验,希望给您带去帮助。

标签:robots.txt.nofollow

营销分析

不想让搜索引擎抓取某个页面,怎么办?

不想让搜索引擎抓取某个页面,怎么办?
robots.txt是一个纯文本文件,在这个文件中网站管理者可以声明该网站中不想被robots访问的部分,或者指定搜索引擎只收录指定的内容。当一个搜索机器人(有的叫搜索蜘蛛)访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就...

10年前 (2010-07-28) 579℃ 1评论 1喜欢