我以前曾经提到过，网站的图片是非常耗费流量的，去年我就曾经统计过，两天的时间博客有20多G的访问流量，图片所在的目录upload占用了18.6G，而文章所在目录只用了1.3G流量，可见图片占用流量资源之巨大，这也就是很多人都喜欢将图片文件放在第三方免费网络相册的原因。然而，如果条件允许的话（比如有独立的服务器，充足的流量），那么将图片存储在自己的网站空间，反而可以利用搜索引擎的图片搜索给自己带来不
obots.txt 文件必须放在网站的根目录。放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。如：https://www.seowhy.com/robots.txt 是有效的。https://www.seowhy.com/a/robots.txt 是无效的。以下3种情况需要注意：1、如果手机网站采用的是m.的二级域名，要给手机网
robots.txt文件放在哪里?robots.txt文件应该放置在网站根目录下。举例来说，当spider访问一个网站（比如 http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果 Spider找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。网站 URL相应的 robots.txt的 URLhtt
要避免搜索引擎蜘蛛爬取某个页面，可以在robots.txt文件中添加如下指令： User-agent: * Disallow: /index.htm 这样，所有搜索引擎蜘蛛都不会爬取网站的index.htm首页页面。注意，这并不代表该页面会从搜索结果中彻底移除，因为即使没有被索引，用户仍然可以在搜索结果中找到该页面。
