现在的网站绝大多数是数据库驱动，页面由程序实时生成，而不是真的在服务器上有一个静态HTML文件存在。当用户访问一个网址时，程序根据URL中的参数调用数据库数据，实时生成页面内容。因此动态页面相对应的URL原始状态也是动态的，包含问号、等号及参数。更麻烦的是有时某些参数可以是任意值，服务器都能正常返回页面，虽然内容全是一样或非常相似的。例如，URL中的参数1234改为5678或其他数字，服务器很可能
Crawl-delay 指令:几大抓取工具支持Crawl-delay参数，设置为多少秒，以等待同服务器之间连续请求，如:User-agent:*Crawl-delay:10来源：360站长平台
1、正确设置CMS系统配置，使其规范生成网址2、确保内部链接统一3、做好网站301转向，成功转换不规范网址4、做好网站地图时注意网站的规范5、利用搜索引擎管理工作设置好自己站点的首选域
解决网址规范化问题有以下几点方法：1.确保使用的CMS系统只产生规范化网址，无论是否有静态化。2.在Google管理员工具中设置首选域。3.所有内部链接保持统一，都指向规范化网址。4.使用canonical标签。5.使用301转向，把不规范化URL全部转向到规范化URL。6.提交给搜索引擎的XML网站地图中全部使用规范化网址。来源：搜外网
