obots.txt 文件必须放在网站的根目录。
放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。
如：
https://www.seowhy.com/robots.txt 是有效的。
https://www.seowhy.com/a/robots.txt 是无效的。
以下3种情况需要注意：
1、如果手机网站采用的是m.的二级域名，要给手机网站设置robots.txt的话，robots.txt要放在m. 这个二级域名的根目录下，而不是www的根目录。
2、给网站添加了一个站内站，如果要屏蔽某链接，是在www根目录下的robots里屏蔽，而不是给站内站创建独立的robtos.txt文件。
3、网站有多个二级域名的话，应该每个二级域名设置一个robots.txt。搜外问答的例子，点击查看。
来源：搜外网
很多读者在问，我的博客帖子里面加的内部链接是怎么弄的？我也发现有一些朋友把我的博客一些文章排名还不错，归功于我博客上的内部链接。我想这是其中的一个原因。今天就解释一下，通常我是怎样在博客帖子里面加站内链接。首先，要说明的是，博客帖子里面的链接完全是人工加上去的就是很老很笨的找到自己博客以前的帖子URL，然后写帖子时加上去。我做网站通常会比较喜欢这种比较笨的办法。每个人的特点不同，我是希望做网站时，
什么是动态的URL和静态的URL？动态的URL形式：http://baike.baidu.com/notexists?word=%B6%AF%CC%ACURLhttp://www.seowhy.com/index.php?3_77_zhhttps://www.seowhy.com/"https://www.seowhy.com/a/37.html" target="_
亲爱的网站管理员，很高兴的告诉大家，百度站长平台robots工具全新升级，升级后能够实时查看网站在百度中已生效的的robots文件，并支持对robots进行语法及逻辑校验，有助于站长更清晰的管理网站的robots文件，避免错误的封禁搜索引擎。功能亮点：1、实时查看网站在百度中已生效的robots文件内容并可通知百度更新：升级后的robots能够查看网站已生效的robots文件，同时会展现网站最新的
个人信息一旦在网上发布，很有可能会被百度搜索引擎抓取，特别是在知名社交网站、专业网站上发布的内容。可能您并不希望这类个人信息出现在百度搜索结果中，以下方式可以帮助您阻止个人信息在搜索结果中出现。如果您是在其他网站上发布的内容：1、在社交网站中（例如人人网，开心网等），您可以针对个人信息设置浏览权限，例如只有朋友或者自己可以浏览；如果您不愿让陌生人看到某些照片或信息，则应该慎重考虑是否公开发布这些内
