港彩通

{dede:field.typename/}资讯

探知 • 创造美好

不断超越客户的期望值,源自我们对这个行业的热爱

百度蜘蛛是什么?正确识别百度蜘蛛的两种方法

来源:网络推广知识 - 港彩通 | 2021-09-28

网站整体运营离不开SEO,要做好百度搜索引擎的SEO就要关注Baiduspider,那么什么是Baiduspider?如何才能识别当前抓取是正确的百度蜘蛛呢?今天港彩通SEO团队带大家清楚的了解“百度蜘蛛”的作用以及如何识别百度蜘蛛,为网站整体运营打下基础。


SEO优化


什么是百度蜘蛛?

百度蜘蛛(Baiduspider)是百度搜索引擎的一个自动程序,它的作用是访问互联网上的网页,建立索引数据库,使用户能在百度搜索引擎中搜索到网站相关内容。


如何识别百度蜘蛛?

方法一可以通过查看UA信息来判断,目前UA分为移动、PC、和小程序三个应用场景,这三个渠道UA分别如下:


移动UA:

Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+//www.baidu.com/search/spider.html)

Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+//www.baidu.com/search/spider.html)


PC UA:

Mozilla/5.0 (compatible; Baiduspider/2.0; +//www.baidu.com/search/spider.html)

Mozilla/5.0 (compatible; Baiduspider-render/2.0; +//www.baidu.com/search/spider.html)


小程序UA:

Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +//www.baidu.com/search/spider.html)


方法二可以通过双向DNS解析认证,开发者通过对日志中访问服务器的IP地址运行反向DNS查找,判断某只spider是否来自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp 的格式命名。然后对域名运行正向DNS查找。对通过命令检索到的域名运行正向DNS查找,验证该域名与您日志中访问服务器的原始IP地址是否一致,IP地址一致可确认spider来自百度搜索引擎,IP地址不一致即为冒充。


此外,您也可以检查网站访问日志,及时判断正确的百度蜘蛛,以防止有人恶意冒充百度蜘蛛来频繁抓取您的网站。若百度蜘蛛抓取频次过高,造成网站服务异常,可以通过搜索资源平台-【抓取频次】工具调整频次。

多一份参考,总有益处

131-1155-0088 / 159-3167-7513

港彩通 - 建站推广一站式服务

您可 微信扫码 或 拨打电话 咨询
稍后再说

131-1155-0088