为什么我的网站已经加了robots.txt，还能在百度搜索出来？
因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。
如果您的拒绝被收录需求非常急迫，也可以通过反馈中心反馈请求处理。
来源：百度搜索资源平台 百度搜索学堂
原文地址：Talk like a Googler: parts of a url作者：Matt Cutts Google反垃圾网站组的带头人让我们来解剖一个 URL 的所有部分。我将告诉你，在 Google 通常所涉及的分别指 URl 的哪些不同部分 。这是一个有效的 URL，并包含很多元素：http://video.google.co.uk:80/videoplay?do
头条搜索Robots匹配说明是指在头条搜索引擎中，用户输入的搜索关键词与已经编写好的机器人规则进行匹配，用以判断搜索结果的排序和展示方式。这些机器人规则是由头条搜索建立的算法模型，通过对用户的搜索历史、搜索习惯、查询的信息内容等多方面的分析，提供给用户最符合其需求的搜索结果。Robots匹配在很大程度上影响用户在头条搜索引擎中的搜索体验和结果准确性。
我不确定，因为我是人工智能语言模型，我不能直接查看文件系统。但是通常文件系统会支持中文目录，所以可以尝试创建一个中文目录来测试。
