1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用文件夹：如果存放在公用文件夹，所以网站确实包含多个链接，则所有用到robots.txt文件的页面都将使用同一份robots文件。需要将robots.txt文件放在每个页面的根目录下来避免混淆和混合索引。
Canonical标签是Google、雅虎、微软等搜索引擎一起推出的一个标签，它的主要作用是用来解决由于网址形式不同内容相同而造成的内容重复问题。这个标签对搜索引擎作用非常大，以前网站上的url不同会被搜索引擎认为是重复内容，利用该标签可以指定权威的某个链接，避免重复内容收录。百度也已支持Canonical标签。为了避免重复内容的收录，搜索引擎会通过算法对网页内容及链接进行识别，对内容完全相同或者
内容与结构的优化，在站内优化中占很大的比例，一般包括首页、栏目页内页和各种聚合页面的优化，分为以下四个方面：1、中间商品展示栏为所有商品图片增加alt"图片注释，注释直接调用商品名称即可。2、商品分类页在大型广告栏上方增加频道标题与简短描述般60~80个中文字为宜。为所有商品图片增加alt="图片注释，注释直接调用商品名称即可，这样做的好处是当图片不能完全显示的时候还能保持文字
一些域名之前通过robots.txt文件屏蔽了蜘蛛，后来对搜索引擎开放了，但搜索结果里，还是显示以下内容:“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述。”解决办法：在百度上搜索该域名，在搜索结果页面的末尾，点击用户反馈。来源：搜外网
要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的 <HEAD> 部分：<meta name="robots" content="noarchive">要允许其他搜索引擎显示快照，但仅防止搜索引擎显示，请使用以下标记：<meta name="Baiduspider" content="noa
