用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
面包屑导航是一种网站或应用程序的导航方式，它通过在页面上显示当前位置和历史路径，帮助用户快速理解网站结构和内容，并方便用户回到之前访问的页面。面包屑导航通常出现在页面的顶部或侧边，在用户浏览网站时一直存在。它的原理是在用户进入每个页面时，记录下之前访问的路径和页面层级关系，然后将这些信息用面包屑导航的形式展示给用户。 面包屑导航的作用主要有以下几点： 1. 帮助用户了解网站结构：通过显示当前页
可以在Robot协议文件中添加"User-agent:*"以及"Disallow: /images/"，这样Robot就会禁止抓取图片。
匹配方式分两部分：1.path部分，2.参数部分匹配支持?*$?两种通配符?*? 表示任何有效字符的 0 个或多个个案。?$? 表示网址结束。path部分与google匹配方式保持一致，也就是只有/或是*开头的规则才有机会匹配上?/?匹配根目录以及任何下级网址?/fish??/fish?开头的匹配项* ?/fish?* ?/fish.html?* ?/fish/salmon.html?* ?/fi
