1. 设置robots.txt文件 在根目录中建立一个robots.txt文件，设置禁止百度抓取即可达到屏蔽百度爬虫的效果，具体设置内容如下： User-agent: Baiduspider Disallow: / 2. 自定义Http请求 百度爬虫最显著的特征就是它的User_Agent中包含Baiduspider，一般在Http头中添加请求头：X-Baidu-Env：martin-spider可以阻止百度爬虫。 3. IP伪装 将服务器IP做转换，将真实的IP改成池外的IP地址，让百度爬虫无法访问。
根据360搜索蜘蛛的IP汇总，以下是一些常见的360搜索蜘蛛的IP地址： 1. 180.163.220.0 - 180.163.220.255 2. 180.163.221.0 - 180.163.221.255 3. 180.163.222.0 - 180.163.222.255 4. 180.163.223.0 - 180.163.223.255 5. 180.163.225.0 - 180
360Spider的ip，我们已经公开在这里辣~：http://www.so.com/help/spider_ip.html360Spider的UA（UA是蜘蛛访问的时候，在服务器中留下的访问签名信息，凡是下面这个UA，就代表是360Spider来过了）：Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Geck
近期百度搜索最大的动作应该就是百度Spider3.0升级了，简单的概括下升级的特点就是：抓取更实时，收录效率更快，对原创优质内容更青睐。此次升级是把当前离线、全量计算为主的系统，改造成实时、增量计算的全实时调度系统，万亿规模的数据进行实时读写，可以收录90%的网页，速度提升80%！『抓取、建库更快—提交的内容更容易被抓取』链接发现方面：如今sipder每天发现的新链接在500亿左右的量级，说明啥？
从输入关键词，到百度给出搜索结果的过程，往往仅需几毫秒即可完成。百度是如何在浩如烟海的互联网资源中，以如此之快的速度将您的网站内容展现给用户？这背后蕴藏着什么样的工作流程和运算逻辑？事实上，百度搜索引擎的工作并非仅仅如同首页搜索框一样简单。搜索引擎为用户展现的每一条搜索结果，都对应着互联网上的一个页面。每一条搜索结果从产生到被搜索引擎展现给用户，都需要经过四个过程：抓取、过滤、建立索引和输出结果。
