我今天来给大家详细讲解下，先了解几个概念1、robots只是禁止抓取，不是禁止收录2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重了解这2个概念后，我们再来讨论怎么处理这类收录问题：robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？大家百度查一下淘宝，如图：按照道理淘宝写了robots怎么还是收
404页面可以以一种创意的方式来设计，以吸引用户的注意力并提供更好的用户体验。以下是一些原创404页面设计的建议： 1. 创意图像或动画：使用有趣和引人注目的图像或动画，以吸引用户的眼球。这可以是一个有趣的插图、卡通形象，或者是一个有趣的动画效果。 2. 幽默和诙谐语句：在404页面上添加一些幽默和诙谐的语句，可以缓解用户的失望情绪，并加强用户与网站的联系感。 3. 搜索功能：在404页面上
解决网址规范化问题有以下几点方法：1.确保使用的CMS系统只产生规范化网址，无论是否有静态化。2.在Google管理员工具中设置首选域。3.所有内部链接保持统一，都指向规范化网址。4.使用canonical标签。5.使用301转向，把不规范化URL全部转向到规范化URL。6.提交给搜索引擎的XML网站地图中全部使用规范化网址。来源：搜外网
网站如果出现多个不规范的网址，分散了页面权重，影响搜索引擎爬行和排名。如何设置网站地址URL规范化？1、使用301转向，很多用户习惯搜索带www，把不带www的301转向到带www的页面即可。2、URL网址规范化，链接网址都采用首选域名的绝对地址。3、canonical标签相当于一个页内的301转向，区别在于用户并不被转向，还是停留在原网址上面，而搜索引擎会把他当做是301转向处理，把页面权重集中
