Canonical标签是用于指定网页主要内容的URL地址。它是一种标记语言标签，通过这个标签，可以告诉搜索引擎要把多个类似内容的页面合并成一个主要内容相同的页面，减少搜索引擎对同一内容的多个页面进行索引，避免重复内容的出现。通过设置Canonical标签，可以提高网站的SEO效果，降低网站被搜索引擎降权的风险。同时，Canonical标签也有利于网站内部链接的优化，提高网页被搜索引擎收录的几率。
"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开(以CR,CR/NL, or NL作为结束符)，每一条记录的格式如下所示:"<field>:<optionalspace><value><optionalspace>"。在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件
Robots.txt文件应放在网站的根目录下。
Canonical标签是指在网页的HTML代码中添加一个链接指向该页面的主要版本，当页面有多个URL时，通过Canonical标签告诉搜索引擎哪个是主要版本，从而避免重复内容被收录。 例如，在网站中有一篇文章，URL分别是： http://www.example.com/article http://www.example.com/articles/123 http://www.examp
如果网站中有不同的url能访问到同一个页面，那么从网站seo优化的角度来看，是有问题的。不同的网址都可以访问同样内容的页面，会给有可能引起搜索引擎的误判。Canonical标签的出现，就是来解决这一问题的。什么是canonical标签canonical标签是在html网页中head头部标签中link标签的一种属性;最早由谷歌搜索引擎提出，目的是为了解决网址规范性问题。简单来说就是当网页中有多个网址