301重定向是一个常用的SEO技术，它能把旧的网址自动转向新的网址，使搜索引擎能顺畅地找到新的内容及其链接。301重定向可以有效地保持网站的权重。以下是一些集中权重的方法： 1. 将所有旧的网址都重定向到新的网址，这将帮助搜索引擎找到最新和最重要的内容。 2. 更新您的Sitemap并提交给搜索引擎，以使它们能够快速和准确地索引您的新网址和内容。 3. 确保您的内部链接指向最新的网址，这样搜
用几个最常见的情况，直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
有些时候，站长并不希望某些页面被抓取和收录，如付费内容、测试阶段的页面、复制内容页面等。网站上不出现链接，或者使用JavaScript、Flash链接，使用nofollow等方法都不能保证页面一定不会被收录。站长自己虽然没有链接到不想被收录的页面，其他网站可能由于某种原因出现导入链接，导致页面被收录。要确保页面不被收录，需要使用robots文件或Meta Robots标签。来源：搜外网
