Categories


Tags


抓取异常的原因有哪些

一、网站异常

1、dns异常

当Baiduspider无法解析您网站的IP时,会出现DNS异常。可能是您的网站IP地址错误,或者域名服务商把Baiduspider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析,如果不正确或无法解析,请与域名注册商联系,更新您的IP地址。

2、连接超时

抓取请求连接超时,可能原因服务器过载,网络不稳定

3、抓取超时

抓取请求连接建立后,下载页面速度过慢,导致超时,可能原因服务器过载,带宽不足

4、连接错误

无法连接或者连接建立后对方服务器拒绝

二、链接异常

1、访问被拒绝

爬虫发起抓取,httpcode返回码是403

2、找不到页面

爬虫发起抓取,httpcode返回码是404

3、服务器错误

爬虫发起抓取,httpcode返回码是5XX

4、其他错误

爬虫发起抓取,httpcode返回码是4XX,不包括403和404

来源:百度搜索资源平台 百度搜索学堂


Public @ 2018-09-22 16:02:23

百度蝶变行动结果揭晓,新搜索下提供优质内容、服务将有更多机会

百度蝶变行动第三期在2017年8月正式落下帷幕,经过近1个月的报名、筛选,最终尘埃落定,11家企业获评最佳新好站。本次活动共有1871家创业项目报名,互联网创新生态依旧一片繁荣。榜单查看地址:http://zz.baidu.com/actbutterfly?isResponsible=1【资源扶植,让优质内容站在巨人肩上】脱颖而出、破茧成蝶只是第一步,百度搜索希望帮助这些互联网创新生态代表,通过平

Public @ 2019-07-04 16:06:08

百度APP移动搜索落地页体验白皮书5.0上线公告

过去的一年,百度搜索的技术和产品团队努力持续提升搜索用户体验。经过用户调研、竞品分析、小流量测试等手段,百度搜索对落地页体验4.0标准进行了全新升级,重磅推出《百度APP移动搜索落地页体验白皮书5.0》。与《百度移动搜索落地页体验白皮书4.0》相比,白皮书5.0不仅在页面加载、广告位置、功能交互等方面有了更明确、细致的规范要求,还增加了服务闭环的考量纬度。预详细了解白皮书5.0规范,请点击《百度A

Public @ 2011-01-31 16:05:23

百度搜索下载站质量规范

百度搜索一直致力于为用户提供安全、便捷、高效的搜索体验,资源下载作为搜索用户的重要需求之一,更是我们关注的重点。下载站,是指以提供用户软件(PC 端软件、移动端app)下载服务为主营业务的站点。长期以来,搜索用户通过不同网站的下载渠道获取下载资源,而下载资源的有效性和安全性的高低也会为用户带来不同的下载体验。经过调研我们发现,搜索结果中的一些下载站点仍存在虚假下载、捆绑下载、广告干扰等问题,严重影

Public @ 2019-04-06 16:21:38

更多您感兴趣的搜索

0.606965s