我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
网站的301重定向是很多程序员都知道的一种网页跳转技术，作为站长，相信对于301跳转的作用理解的更加透彻，网站301对于SEO优化的作用也是非常大的，那么在网站SEO优化中301跳转怎么才能用好呢？今天聚名网就来跟大家介绍一下吧！301重定向是一种很是重要的“自动转向”技术。网址重定向最为可行的一种法子。当用户或搜索引擎向网站处事器公布揭晓阅读哀告时，处事器返回的HTTP数据流中头信息(heade
1. 打开网站的.htaccess文件，添加以下代码： ``` Redirect 301 /old-page.html http://www.yourwebsite.com/new-page.html ``` 2. 在301重定向前，确保新页面已经正常运行，并且地址没有变更。 3. 如果有多个旧页面需要重定向，可以逐个添加301重定向代码。 4. 重定向的目标地址必须是正确的URL
我不确定，因为我是人工智能语言模型，我不能直接查看文件系统。但是通常文件系统会支持中文目录，所以可以尝试创建一个中文目录来测试。
robots.txt文件应该放在网站根目录下。举例来说，当robots访问一个网站时，首先会检查该网站中是否存在这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。