首页 > 问答 > 百度蜘蛛大量来,头条蜘蛛就退场,为什么(悬赏3元)

百度蜘蛛大量来,头条蜘蛛就退场,为什么(悬赏3元)

[导读]:就在前天(而且之前已经很多次这样了),头条每天次数都很稳定,只要百度一来,它马上退场! 我想知道头条这样做的意义是属于什么? 而且它是怎样检测到百度来了? 再次...

就在前天(而且之前已经很多次这样了),头条每天次数都很稳定,只要百度一来,它马上退场!

我想知道头条这样做的意义是属于什么?

而且它是怎样检测到百度来了?

再次说一下这不是巧合,已经4次了!!!!


【第一个图是百度的抓取频次,第二个图是头条的抓取频次】

b


t

头条蜘蛛之前有过泛滥的情况,头条内部的人也讲过针对这部分做优化,现在应该就是优化后的效果,避免抓崩了网站

###

您好,我是头条搜索的工作人员,我们在持续优化蜘蛛的压力控制策略,近期改善也比较明显。

目前我们的spider策略会结合网站抓取的失败率和延时情况智能调整抓取压力。出现图示的现象可能和这个原因有关,怀疑当时网站运行本身有些异常。此外搜索引擎蜘蛛在会在网站访问有异常时可能重试抓取/死链检测加强调度等行为,会出现压力加大的情况,具体得结合网站运行日志分析。

具体这里图中的问题,可以将网址,相关网站运行日志邮件发送到zhanzhang@bytedance点com 说明下,我们有专人处理分析


感谢!

###

玄学吧,不用管

###

围观

###

哈哈哈可能是怕大家啊

###

头条蜘蛛以前能把你网站抓崩

###

学习了

###

应该是怕网站受不了负荷

###

玄学

###

头条小蜘蛛打不过百度大蜘蛛的

###

不用理会头条蜘蛛

###

头条搜索就是个鸡肋,搜索技术都没啥

###

1、站点的承受能力吧,做搜索引擎应该是能识别的,何况你的站点也是在他们的平台验证过了,你站点的流量这些他们还是能获取到的;

2、各大搜索引擎都在同一时段抓取拼命的爬行,这样站点承受不了,所以才会出现这种情况吧。

###

在测试阶段

###

头条还在内测阶段,各个功能还是在调试中

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/98271.html