Categories


Tags


您的网站地图爬虫是自己写的吗?

james 提问于 1年 之前

请问Zac大佬,您的爬虫是自己写的吗,可以付费或者免费分享吗?

1 个回答

Zac 管理员 回答于 1年 之前

当然不是啊。生成网站地图是任何CMS的标配,或至少有插件可用。我博客用的WordPress,WordPress本身从5.5版本已经有内置生成sitemap.xml功能,也有很多插件,搜索wordpress sitemap.xml plugin可以看到一大堆。我博客的sitemap.xml是All in One SEO插件生成的。

如果CMS不能生成sitemap.xml就不要用了。

如果是自己开发的CMS,通常是从数据库中直接提取URL,应该不会是靠爬虫抓取生成的。

来源:SEO每天一贴 Zac 昝辉


Public @ 2011-01-20 15:54:18

网站抓取了一些不存在的目录跟页面?

网站管理者可以使用301重定向来解决这个问题,该技术会将搜索结果重定向到有效的页面,从而避免访问不存在的页面,提高网站的加载速度。此外,网站管理者可以使用网络爬虫进行定期的审查,以发现不存在的目录和页面,以及确保符合标准的内容。

Public @ 2023-02-24 11:00:15

PC端收录移动端不收录是怎么回事?怎么解决

? PC端收录移动端不收录是因为百度有不同的收录策略。为了保证PC端搜索体验,百度会更多地对PC端内容进行收录,移动端内容收录会比PC端较少。 解决方法: 1、制定有效的移动优化策略,实现PC和移动的统一; 2、在移动端充足标注,并在代码中便于爬虫抓取; 3、将移动端和PC端的网址分别提交到百度站长,加快移动端收录; 4、在PC端文章添加移动端相关链接,提升移动端收录。

Public @ 2023-02-27 06:48:18

该如何让后面的分页权重更集中在第一个列表页面?

晴天 提问于 3年 之前针对网站列表页的分页问题,该如何让后面的分页权重更集中在第一个列表页面?网站使用tag标签,太多的分页了,如何让后面的分页权重更加集中在第一个页面呢?2 个回答Zac 管理员 回答于 3年 之前如果是正常导航系统中的列表页,也就是栏目页,或分类页,没必要刻意把后面分页的权重集中到第一个列表页面。首先,网站导航系统的设置必然造成第一个列表页权重远高于后面分页,再集中没有必要。

Public @ 2019-11-27 15:53:35

更多您感兴趣的搜索

0.701710s