| 什么是robots文件？
Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。
| 为什么要做robots文件？
网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。
| 如何制作 robots文件？
编写robots.txt文件并上传到网站根目录。
| 制作 robots.txt注意事项
● 所有搜索引擎则用星号表示
● Allow（允许）和Disallow（不允许）优先级
● 至少屏蔽一个，可以屏蔽：搜索结果页面/404页面
● 记得将sitemap放到Robots文件中
● 可以陆续放入更多，而不是一次性决定所有
● 网站后台地址/图片地址/下载文件地址/错误链接（搜外网）
| 什么是nofollow？● HTML页面中a标签的属性值，告诉搜索引擎不要追踪某一个链接。● 为什么设置nofollow标签？● 避免权重的流失| 如何做nofollow标签？● 一些不要权重的页面链接，给加上nofollow● 如：搜索按钮、关于我们、联系我们、更多、点击查看● 以搜外网首页为案例讲解| nofollow与robots.txt区别：● nofollow决定权重分配，robot
使用Canonical 标签时要特别注意的两点】1，百度虽然支持Canonical标签，但并不保证完全遵守该标签。请站长注意，最好在完全相同的网页中使用Canonical标签——这样可以提升Canonical标签的使用效果。*之前的帮助文档中的确提到高度相似的网页也可以使用Canonical标签，但在实际过程中我们发现，相似网页使用Canonical标签的成功率较低。2，还有一点非常非常重要，请各
| 什么是robots文件？Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。| 为什么要做robots文件？网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。| 如何制作 robots文件？编写robots.txt文件并上传到网站根目录。| 制作 robots.txt注意事项● 所有搜索引擎则用星号表示● All
我今天来给大家详细讲解下，先了解几个概念1、robots只是禁止抓取，不是禁止收录2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重了解这2个概念后，我们再来讨论怎么处理这类收录问题：robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？大家百度查一下淘宝，如图：按照道理淘宝写了robots怎么还是收
