Categories

Tags

Robots文件是否支持中文目录

有同学问百度站长学堂一个关于robots的问题：我们有个站点的目录结构使用的是中文，这样式儿的：www.a.com/冒险岛/123.html，那在制作robots文件和sitemap文件的时候，可以直接使用中文吗？百度能获取到吗？在实际操作中我们发现，sitemap中有文件是可以生效的，但robots封禁貌似没有反应，所以想确认一下：robots文件是否支持中文?

工程师解答：Baiduspider目前（2016年10月）在robots里是不支持中文的。

同学追问：那我们进行UrlEncode编码会不会支持呢？比如这种：http://www.a.cn/%E7%89%B9%E6%AE%8A:%E6%B5%8F%E8%A7%88/%E7%94%9F%E6%AD%BB%E7%8B%99%E5%87%BB:%E7%99%BD%E9%93%B6%E5%8A%A0%E7%89%B9%E6%9E%97

工程师解答：robots文件支持这种写法。但是否生效，还要取决于当时BaiduSpider抓取的是哪种形式结构的链接，如果是UrlEncode编码就可以生效，如果是中文就非常不幸了。

来源：百度搜索资源平台 百度搜索学堂


 Public @ 2013-01-02 16:08:54

如何实现301跳转？

要实现301跳转，可以按照以下步骤操作： 1. 确认被重定向的页面或网站已经关闭或不再使用。 2. 在服务器上创建一个 .htaccess 文件，或者使用已经存在的 .htaccess 文件。 3. 在 .htaccess 文件中添加代码： Redirect 301 /原网址 http://新网址 其中，“原网址”是你想重定向的页面或者网站的网址，而“新网址”是你想

 Public @ 2023-04-01 07:50:23

Sitemap文件标准格式和大小说明

1、格式：您可以采用如下三种格式的文件向360搜索提交Sitemap，文件编码可以是UTF-8或GBK： 1）标准的XML格式文件 2）文本格式文件 3）Sitemap索引文件（可同时包含多个Sitemap文件）2、大小： 1）单个Sitemap文件：大小不超过10MB，且包含不超过50000个网址。如果网站所包含的网址超过50,000个，则可将列表分割成多个Sitemap文件，放在Sitemap

 Public @ 2010-11-01 16:11:51

什么是robots文件

robots.txt是一个网站的根目录中的文件，用于告知搜索引擎哪些页面和文件可以被搜索引擎的爬虫访问，哪些不可以。该文件是遵循 robots协议的网站必不可少的一个文件，用于控制搜索引擎的爬虫访问网站的行为。通过robots.txt文件，网站管理员可以禁止搜索引擎爬虫访问一些无用或敏感的网站内容，或是避免搜素引擎爬虫访问较为频繁的API接口等。

 Public @ 2023-05-30 08:00:08

通过robots.txt文件屏蔽蜘蛛抓取不存在的后缀

通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。搜外网站后台日志分析结果如下图：image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。在robots.txt文件填写屏蔽规则如下：Disallow: /*.asp$Disallow: /*.php$Disallo

 Public @ 2015-07-18 16:09:24

更多您感兴趣的搜索

0.433554s