URL标准化指的是将URL（Uniform Resource Locator，统一资源定位符）转换为符合标准的格式。这个过程中，可能会将URL中的一些特殊字符进行编码，删除多余的斜杠、点等符号，去掉文件扩展名等。标准化后的URL可提高搜索引擎索引和页面排名的效率，也有助于用户更快捷、准确地访问网站。
搜索引擎判断锚文本是否适合，主要通过如下几点判断：（1）锚文本植入符合文章需求，该出现的时候出现，不该出现的时候不要出现。（2）对所在文章有促进作用，用户阅读的时候可以通过锚文本扩展阅读。（3）能延展用户需求，挖掘用户额外需求并满足。（4）锚文本设置的数量和位置都做到依据文章的延展需求而定。来源：搜外网
robots文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL,or NL作为结束符），每一条记录的格式如下所示："<field>:<optional space><value><optionalspace>"在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以
360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点
