Categories

Tags

禁止收录机制

有些时候，站长并不希望某些页面被抓取和收录，如付费内容、测试阶段的页面、复制内容页面等。网站上不出现链接，或者使用JavaScript、Flash链接，使用nofollow等方法都不能保证页面一定不会被收录。站长自己虽然没有链接到不想被收录的页面，其他网站可能由于某种原因出现导入链接，导致页面被收录。要确保页面不被收录，需要使用robots文件或Meta Robots标签。来源：搜外网

 Public @ 2017-07-11 16:21:36

360搜索对Robots协议的扩展

360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点

 Public @ 2023-05-29 17:00:21

搜狗资源平台-Sitemap提交帮助

功能说明提交Sitemap工具可以向搜狗提交网站Sitemap文件，帮助搜狗spider抓取您的网站。目前Sitemap采用邀请制，您可在此工具下选择已验证的站点，并观察站点是否已被邀请。Sitemap提交后，搜狗搜索会根据Sitemap了解网站中的网址及关于每个网址的其他元数据（上次更新的时间、更改的频率等）。注意事项1.sitemap采用邀请制，当您的网站存在原创或不可替代内容或不能被搜狗sp

 Public @ 2021-11-12 16:09:46

更多您感兴趣的搜索

0.427601s