404页面是客户端在浏览网页时，服务器无法正常提供信息，或是服务器无法回应，且不知道原因所返回的页面。据说在第三次科技革命之前，互联网的形态就是一个大型的中央数据库，这个数据库就设置在404房间里面。那时候所有的请求都是由人工手动完成的，如果在数据库中没有找到请求者所需要的文件，或者由于请求者写错了文件编号，用户就会得到一个返回信息：room 404 : file not found。404错误信息通常是在目标页面被更改或移除，或客户端输入页面地址错误后显示的页面，人们也就习惯了用404作为服务器未找到文件的错误代码了。当然实际考证传说中的room 404是不存在的，在http请求3位的返回码中，4开头的代表客户错误，5开头代表服务器端错误。
1. 下面是一个拒绝所有机器人访问的robots.txt： ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点： ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL： ```
今天为什么要说一下404问题呢,最近看case过程中发现个很有意思的网站，该网站被灌了大量的垃圾信息，被其发现后及时地进行了删除，这一点是值得肯定的。通常情况下，正常网站将自动返回404状态码，搜索引擎进行更新并删除，避免对网站用户及搜索引擎带来负面影响。但问题来了，该网站只删除了内容，没有任何主体内容的页面被保存了下来，未做404处理。当然，存在一类网站只删除内容后返回正常200状态码，提醒一句
404页面是当用户请求的页面不存在时显示的页面。以下是创建一个好的404页面的要点： 1. 提示用户页面不存在：在页面上明确告诉用户，请求的页面不存在，这是最重要的 2. 提供导航链接：尽可能提供有用的导航链接以帮助用户找到他们可能想要查看的类似内容的链接 3. 提供搜索栏：在页面上提供搜索栏可让用户搜索相关内容或页面 4. 不要让它看起来太“错误”：确保页面看起来友好，避免使用太多的技术
