robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全问题。因此，对于任何一个网站来说，编写一个有效的robots.txt文件都是非常必要的。
我以前曾经提到过，网站的图片是非常耗费流量的，去年我就曾经统计过，两天的时间博客有20多G的访问流量，图片所在的目录upload占用了18.6G，而文章所在目录只用了1.3G流量，可见图片占用流量资源之巨大，这也就是很多人都喜欢将图片文件放在第三方免费网络相册的原因。然而，如果条件允许的话（比如有独立的服务器，充足的流量），那么将图片存储在自己的网站空间，反而可以利用搜索引擎的图片搜索给自己带来不
a：使用<nofollow>属性的链接不会被搜索引擎跟踪，更不会给链接传递权重。避免权重不必要的丢失，从而达到权重集中的目的。
Crawl-delay 指令:几大抓取工具支持Crawl-delay参数，设置为多少秒，以等待同服务器之间连续请求，如:User-agent:*Crawl-delay:10来源：360站长平台
我希望我的网站内容被百度索引但不被保存快照，我该怎么做？Baiduspider遵守互联网meta robots协议。您可以利用网页meta的设置，使百度显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照，但百度搜索引擎数据库中如果已经建立了网页索引信息，可
