Categories

Tags

如何让 sogou spider 不抓我的网站

您可以在网站的 robots.txt 文件中添加以下内容，来阻止 Sogou 蜘蛛抓取您的网站： User-agent: Sogou Disallow: / 这会告诉 Sogou 蜘蛛不要访问您的整个网站。如果您只想阻止蜘蛛访问特定页面或目录，可以将 Disallow: / 替换为您想要屏蔽的 URL。例如： User-agent: Sogou Disallow: /admin/ Disallow: /private/page.html 请注意，这只是提示蜘蛛不要访问您的网站，而不是完全保证它们不会访问。某些蜘蛛可能会忽略 robots.txt 文件或对其进行解释有所不同。此外，此方法也无法阻止其他搜索引擎的蜘蛛。

 Public @ 2023-06-25 03:00:11

百度搜索资源平台-新版Baiduspider移动ua升级公告

亲爱的网站管理员：近日 ，Baiduspider针对移动抓取user agent（以下简称ua）进行了升级，与PC端的抓取ua做到版本统一，均称为Baiduspider/2.0。移动ua和pc ua详情如下：新版移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/

 Public @ 2018-05-20 15:56:40

如何让 sogou spider 不抓我的网站

sogou spider 支持 robots 协议，您可以在网站的根目录放置 robots.txt。robots.txt 的规则请参阅 http://www.robotstxt.org/。需要注意的是，最新更新的 robots.txt 可能需要几个星期才能体现出效果来，另外，被您禁止 sogou spider 收录的网页将不能在搜狗搜索引擎上检索到。

 Public @ 2011-12-05 15:38:56

更多您感兴趣的搜索

0.487580s