1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用文件夹：如果存放在公用文件夹，所以网站确实包含多个链接，则所有用到robots.txt文件的页面都将使用同一份robots文件。需要将robots.txt文件放在每个页面的根目录下来避免混淆和混合索引。
URL是什么URL是统一资源定位符，对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示，是互联网上标准资源的地址。互联网上的每个文件都有一个唯一的URL，它包含的信息指出文件的位置以及浏览器应该怎么处理它URL结构由两部分组成，第一部分是协议，就是大家在网址前边看到的一串字母，最常见的就是HTTP和HTTps，一般在下图所示的位置。第二部分就是大家最常见的服务器名称或者IP地址，通俗点来说
其实网站结构这块的优化需要解决的最重要问题包括收录以及页面权重分配。最经典是树形结构，是比较好的链接及权重分配模式。但是由于不同的网站采用的技术不同，要实现的功能、网站目的、运营思路都有可能不同，因此某些看起来是根据树形结构来做的网站，其实结构很奇怪。因此我们需要具体问题具体分析。 首先是解决重点内页的问题。一般来说，网站首页获得的内外部链接是最多的，权重最高。首页链接到一级分类页面，这
要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的 <HEAD> 部分：<meta name="robots" content="noarchive">要允许其他搜索引擎显示快照，但仅防止搜索引擎显示，请使用以下标记：<meta name="Baiduspider" content="noa
我不确定，因为我是人工智能语言模型，我不能直接查看文件系统。但是通常文件系统会支持中文目录，所以可以尝试创建一个中文目录来测试。
