用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
根本不存在的链接，就是错误链接。错误链接与死链接的区别：错误链接是由于用户的疏忽，请求的链接不存在。死链接是原来访问正常，后来因为网站的变故而不能访问。发生错误链接的情况：用户对域名拼写错误。URL地址书写错误。URL后缀多余了或缺少了斜杆。URL地址中出现的字母大小写不完全匹配。来源：搜外网
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...
我希望我的网站内容被百度索引但不被保存快照，我该怎么做？Baiduspider遵守互联网meta robots协议。您可以利用网页meta的设置，使百度显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照，但百度搜索引擎数据库中如果已经建立了网页索引信息，可
