在百度C2C产品“百度有啊”即将上线的时候，淘宝网站曾经屏蔽百度搜索爬虫，禁止百度搜索引擎抓取淘宝网站的网页内容，淘宝官方的解释是“杜绝不良商家欺诈”。在技术层面，淘宝屏蔽百度的方法是，在网站的robots.txt文件中加上如下内容：User-agent: BaiduspiderDisallow: /但实际上这种方法并不能完全屏蔽百度的爬虫，至今在百度上输入site:taobao.com还是可以看
Sogou spider User-Agent字段是一种用于爬虫程序中的HTTP报头，它是搜狗搜索的爬虫程序使用的字符串，其格式为："Sogou web spider/版本号(语言:语言代码;平台:操作系统)"，例如："Sogou web spider/4.0(Windows NT 6.1;zh-CN)"。该字段包含了爬虫程序的名称、版本号、语言和操作系统等信息。
我们都知道：每个网站都是有抓取频次的，比如一个站的抓取频次为500，那么100个呢，1000个呢？一千个站的抓取频次就是50万次的日抓取。所谓蜘蛛池就是通过程序建设大量的站群，这样一来：这些网站汇聚了极多的蜘蛛，在持续的抓取。蜘蛛池的方式就是：把你的网站链接，挂到这些网站内链中去，可以让网站的外链瞬间暴增，极大的为网站带来蜘蛛的抓取，提升收录！不过效果虽好，但是本身是作弊的，很容易被搜索引擎惩罚，
