尊敬的用户： 为了更好地保护您的隐私和内容权益，百度搜索已经全新升级了robots协议。该协议将更加严格地限制搜索引擎爬取您的网站内容，以保障您的权益。 更新后的robots协议针对以下内容进行了调整： 1.增加禁止搜索引擎爬取的网页类型，如登录页、支付页、个人信息页等。 2.增加网站所有者对搜索引擎爬取的细节设置，包括最大爬取频率、爬取深度、爬取延时等。 3.优化 robots.txt 文件的格式，使其更加易读易懂，方便网站所有者进行设置。 为保障您的权益，请您在更新协议前，仔细阅读协议内容，并根据自身需要进行设置。如果您有任何疑问或建议，欢迎联系百度搜索客户服务，我们将竭诚为您服务。 感谢您一直以来对百度搜索的支持和信任！ 百度搜索团队 2022年5月1日
除了解决网址规范化问题，还有很多需要做301转向的情形。比如，为保护版权，公司拥有不同TLD的多个域名：?seowhy.com?seowhy.net?seowhy.org?seowhy.com.cn?seowhy.cn为避免造成大量复制内容，应该选定一个为主域名，如seowhy.com，其他域名做301转向到seowhy.com。网站改版经常需要用到301转向，如页面删除、改变地址、URL命名系统
1、禁止索引 /wp-admin：用于管理wordpress网站的控制面板，不允许百度收录，避免流量分散。 User-agent: * Disallow: /wp-admin/ 2、禁止索引/wp-includes：WordPress中的核心文件，利用文件禁止百度爬行，提高访问速度。 User-agent: * Disallow: /wp-includes/ 3、禁止索引/wp-c
Robots META标签中没有大小写之分，name="Robots"表示所有的搜索引擎，可以针对某个具体搜索引擎写为name="BaiduSpider"。 content部分有四个指令选项:index、noindex、follow、nofollow，指令间以","分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索
robots.txt是一个网站的根目录中的文件，用于告知搜索引擎哪些页面和文件可以被搜索引擎的爬虫访问，哪些不可以。该文件是遵循 robots协议的网站必不可少的一个文件，用于控制搜索引擎的爬虫访问网站的行为。通过robots.txt文件，网站管理员可以禁止搜索引擎爬虫访问一些无用或敏感的网站内容，或是避免搜素引擎爬虫访问较为频繁的API接口等。
