Categories

Tags

robots

robots是网站跟爬虫间的协议，用简单直接的txt格式文本方式告诉对应的爬虫被允许的权限，也就是说robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。当一个搜索蜘蛛访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果存在，搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在，所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。来源：360站

 Public @ 2014-01-16 16:09:19

404页面设置方法

1. 通过服务器配置文件设置404页面 可以在服务器配置文件中添加以下代码来设置404页面： ``` ErrorDocument 404 /404.html ``` 在这个例子中，当用户请求一个不存在的页面时，服务器会返回404错误，并重新定向到404.html页面。 2. 使用.htaccess文件设置404页面 如果你使用的是 Apache 服务器，可以通过在网站根目录下创建一个.h

 Public @ 2023-04-17 13:50:14

浅谈404问题

今天为什么要说一下404问题呢,最近看case过程中发现个很有意思的网站，该网站被灌了大量的垃圾信息，被其发现后及时地进行了删除，这一点是值得肯定的。通常情况下，正常网站将自动返回404状态码，搜索引擎进行更新并删除，避免对网站用户及搜索引擎带来负面影响。但问题来了，该网站只删除了内容，没有任何主体内容的页面被保存了下来，未做404处理。当然，存在一类网站只删除内容后返回正常200状态码，提醒一句

 Public @ 2014-09-24 16:09:54

更多您感兴趣的搜索

0.482900s