我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
如某博客上有垃圾评论：<a href="URL">顶顶</a>以下操作，即进行了 nofollow：<a href="URL" rel="nofollow" >灌水</a>在网页的 <HEAD> 部分添加适当的 <META> 标签。拦截所有搜索引擎把网页收录：<
亲爱的网站管理员：百度站长平台即将正式全网开放sitemap权限，所有通过百度站长平台验证的网站均可以在百度站长工具的链接提交里添加网站的sitemap，而从近期sitemap全网开放会进入内测阶段，站长平台会挑选没有sitemap提交权限的站点参加内测，内测的报名入口《申请sitemap全网开放内测名额》。另外，本次sitemap全网开放，将取消由站长来设置sitemap文件更新周期的功能，而是
设置搜索robots协议的后果针对短视频类内容，视频搜索将不再索引、展现网站的视频资源，历史已索引部分会从搜索中屏蔽。若设置部分目录不希望被收录 ，该目录下内容将从搜索中屏蔽，其余内容在搜索中则以正常结果展示。来源：百度搜索资源平台
鉴于网络安全与隐私的考虑，搜索引擎遵循robots.txt协议。通过根目录中创建的纯文本文件robots.txt，网站可以声明不想被robots访问的部分。每个网站都可以自主控制网站是否愿意被搜索引擎收录，或者指定搜索引擎只收录指定的内容。当一个搜索引擎的爬虫访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果该文件不存在，那么爬虫就沿着链接抓取，如果存在，爬虫就会按照该文
