1. 在 Robots.txt文件中添加屏蔽百度爬虫代码。 User-agent: Baiduspider Disallow: / 2. 在HTTP请求头里加入User-Agent字段 User-Agent:123 3. 使用IP段黑名单来屏蔽来自百度的爬虫 拒绝127.0.0.1 - 127.255.255.255
因为搜索引擎索引数据库的更新需要时间。虽然sogou spider已经停止访问您网站上的网页，但搜狗搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫，也可以通过删除快照反馈请求处理。
内容优良而独特的页面。如果您的页面内容和互联网上已存在的其他页面有高度的相似性，可能不会被 sogou spider 收录。链接层次较浅的页面。过深的链接层次，尤其是动态网页的链接，会被丢弃而不收录。如果是动态网页，请控制参数的数量和URL的长度。搜狗更偏好收录静态网页。重定向次数越多的页面，越有可能被 sogou spider 丢弃。来源：搜狗资源平台
进入移动时代，同学们肯定会发现，百度官方和各知名SEO大拿们都在不断强调一个词：速度！最重要的莫过于，从用户点击搜索结果到页面完全加载完毕，不可超过3秒，否则有可能被限制展现（因为百度做过测试，当页面在3秒以上还无法打开的话，用户会选择关闭该网页）。于是大家各种针对速度的问题也多了起来，在深圳VIP大讲堂中，我们看到了这样一个简单的对话：同学问：站点遇到百度蜘蛛抓取，应该在多长时间内给出反馈？时间
大家应该都知道百度已经全站https并取消referer关键词显示了，那么“百度蜘蛛referer”又是什么？有什么妙用吗？艺龙SEO负责人刘明发现通过百度蜘蛛referer可以快速定位部分站内url的报错（4xx或者5xx）原因。随后社区版主飞鹰正义也对文章做了补充修正，现推荐给各位同学们。什么是百度蜘蛛的referer百度蜘蛛的referer，是指当百度蜘蛛抓取某一个URL的时候，在HTTP头
