通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
现在的网站绝大多数是数据库驱动，页面由程序实时生成，而不是真的在服务器上有一个静态HTML文件存在。当用户访问一个网址时，程序根据URL中的参数调用数据库数据，实时生成页面内容。因此动态页面相对应的URL原始状态也是动态的，包含问号、等号及参数。更麻烦的是有时某些参数可以是任意值，服务器都能正常返回页面，虽然内容全是一样或非常相似的。例如，URL中的参数1234改为5678或其他数字，服务器很可能
原域名所有页面都跳转至新域页首页会有什么影响？答：新域名首页将会替换旧域名首页，新域名首页仅继承旧域名首页的属性，不会产生1+1>2的效果。旧域名在短时间内仍然可查。但随着时间推移，旧域名由于质量下降最终会被清除出数据库。来源：百度搜索资源平台 百度搜索学堂
Robots META标签中没有大小写之分，name="Robots"表示所有的搜索引擎，可以针对某个具体搜索引擎写为name="BaiduSpider"。 content部分有四个指令选项:index、noindex、follow、nofollow，指令间以","分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索
360搜索支持Robots协议的主要命令，以下为具体说明：1. user-agent360搜索各产品的爬虫user-agent为：- 网页搜索 360Spider- 图片搜索 360Spider-Image- 视频搜索 360Spider-Video2. Allow站长可通过Allow命令指定建议收录的文件、目录 。3. Disallow站长可通过Disallow命令指定不建议收录的文件、目录。
