首页 > 问答 > 百度爬虫 抓取太厉害,每天50多万,服务器不动了,怎么办?

百度爬虫 抓取太厉害,每天50多万,服务器不动了,怎么办?

[导读]:百度爬虫 抓取太厉害了,怎么办? 我的服务器是5M带宽。 百度每天抓取50多万。导致我的服务器都动不了? 请问各位大哥和前辈有什么办法解决。 我的网址 www.1677.cn 麻烦大家...

百度爬虫 抓取太厉害了,怎么办?
我的服务器是5M带宽。
百度每天抓取50多万。导致我的服务器都动不了?

请问各位大哥和前辈有什么办法解决。
我的网址 www.1677.cn 麻烦大家给我测试一下网速怎么样。顺便说一下你所在的城市和宽带运营商,谢谢!

我尝试在百度站长后台调整了压力,但是,过几天又上来了。求解决之道?

这个抓取频次是可以调整的!

###

cnd分发加速一下。调整百度蜘蛛的抓取频率降低服务器压力

###

有三个办法可以解决:1.用睡眠方式减少抓取的频率2.用一个带宽更大的服务器,个人推荐郑州新数据美国独立服务器,如果是一些VPS的话,流量太大的话可能会影响别的用户,导致服务上会对你的服务器做一些制裁,3.有些网页其实没必要抓去,可以把这些去掉。如果需要服务器的话可以联系我q228109315

###

网址多少,看下

###

对服务器了解不多,不过,我的观点是,查看日志,看看蜘蛛抓取的页面或者内容是否都是你所需要的?有没有很多无需抓取的页面蜘蛛还在爬行,占用了抓取量,如果有,禁掉。
如果没有,没办法了,按楼上的,从服务器入手吧。

###

上海地区



###

50多万次 没得那么夸张吧!

###

和楼上一样,深圳 电信

###



本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/52710.html