百度各个产品使用不同的user-agent：
无线搜索
Baiduspider-mobile
图片搜索
Baiduspider-image
视频搜索
Baiduspider-video
新闻搜索
Baiduspider-news
百度搜藏
Baiduspider-favo
百度联盟
Baiduspider-cpro
商务搜索
Baiduspider-ads
网页以及其他搜索
Baiduspider
如某博客上有垃圾评论：<a href="URL">顶顶</a>以下操作，即进行了 nofollow：<a href="URL" rel="nofollow" >灌水</a>在网页的 <HEAD> 部分添加适当的 <META> 标签。拦截所有搜索引擎把网页收录：<
要在网站的URL中显示品牌名字，可以通过以下几种方法实现： 1. 在网站的域名中包含品牌名：将品牌名字作为域名的一部分，例如www.品牌名.com。这样每个网页的URL都会显示品牌名字。 2. 在网站的子域名中包含品牌名：创建一个子域名并将品牌名字作为子域名，例如brand.域名.com。这样每个网页的URL都会包含子域名和品牌名字。 3. 在网站的URL中使用文件夹和文件名：将品牌名字作为
【Robots简介】robots.txt是一个协议，是搜索引擎访问网站时第一个要查看的文件，它存在的目的是告诉搜索引擎哪些页面能被抓取，哪些页面不能被抓取。当spider访问一个站点时，会首先检查该站点根目录下是否存在robots.txt，如果存在，spider会按照文件中的内容来确定访问的范围；如果该文件不存在，所有的spider将能够访问网站上所有没有被口令保护的页面。【具体介绍】1、User
robots是什么robots是网站跟蜘蛛间的协议，当访问站点时，它首先检查机器人是否存在于站点的根目录中。如果找到，蜘蛛就会按照该文件中的内容来确定访问的范围,如果该文件不存在,那么搜索机器人就沿着链接抓取。一定要注意txt文件必须放在站点的根目录中，文件名必须为小写。robots.txt是一个纯文本文件，在这个文件中网站管理者可以声明该网站中不想被搜索引擎访问的部分，或者指定搜索引擎只收录指定
