搜索引擎蜘蛛可以简单的理解为页面信息采集工具，不需要人工去采集，它会自动根据URL链接一个一个爬行过去，然后再抓取页面的信息，然后再存到服务器的列队中，为用户提供目标主题所需要的数据资源，搜索引擎蜘蛛不是所有的页面都会抓取的，主要有三个原因：一是技术上的原因。二是服务器存储方面的原因。三是提供用户搜索数据量太大，会影响效率。
所以说，搜索引擎蜘蛛一般只是抓取那些重要的网页，而在抓取的时候评价重要性主要的依据是某个网页的链接深度。我们在做网站的时候可以多做一些链接，然后让搜索引擎可以顺着各个链接爬行到你的网站，对你的网站页面进行信息采集。
来源：A5营销
进入移动时代，同学们肯定会发现，百度官方和各知名SEO大拿们都在不断强调一个词：速度！最重要的莫过于，从用户点击搜索结果到页面完全加载完毕，不可超过3秒，否则有可能被限制展现（因为百度做过测试，当页面在3秒以上还无法打开的话，用户会选择关闭该网页）。于是大家各种针对速度的问题也多了起来，在深圳VIP大讲堂中，我们看到了这样一个简单的对话：同学问：站点遇到百度蜘蛛抓取，应该在多长时间内给出反馈？时间
百度spider，也叫"百度蜘蛛"，是百度用于抓取网络上的网页内容的爬虫程序。它会自动搜索网络上的网页，抓取页面上的关键词和摘要，并将它们保存在百度的数据库中。百度的蜘蛛不仅可以抓取网页上的文本信息，还可以抓取网页上的图像和多媒体文件，以及网站上的链接。百度蜘蛛可以在短时间内快速地抓取大量信息，因此十分实用。它也可以抓取动态网页内容，对网络内容进行检索更新，从而搜集到最新最准确的检索结果。
1. 网站结构复杂和不合理：网站结构过于复杂或不合理会阻碍搜索引擎蜘蛛的爬行，导致关键页面无法被索引。 2. 缺乏关键词和优化：如果网站没有优化，或关键词使用不当或缺乏，搜索引擎无法判断网站内容的重要性，从而无法正确推荐网站给用户。 3. 网页载入时间过长：搜索引擎会优先考虑快速载入的网站。如果网站速度慢，搜索引擎会认为网站不够优秀，会影响网站的排名。 4. robots.txt 文件限制：
1. 重新编辑robots.txt文件，将网站中不需要抓取的页面和目录添加进去； 2. 如果抓取的网站带有反爬虫功能，建议可以设置User-Agent，以区分人为访问和爬虫程序进行访问； 3. 设置深度抓取，让程序对某个网页进行抓取时，只抓取它指定难度及深度的URL； 4. 不定时发起网站扫描任务，用来检查异常的URL，以及分析抓取URL的情况，同时将发现的问题处理掉； 5. 合理设置
