首页 > 问答 > Baiduspider对一个网站服务器造成的访问压力如何?

Baiduspider对一个网站服务器造成的访问压力如何?

[导读]:Baiduspider对一个网站服务器造成的访问压力如何?  怎样才算正常。 问题不是很清晰。 也会存在真实蜘蛛抓取量过大导致服务器压力过大,网站打开慢或者无法打开的情况。 解决...

Baiduspider对一个网站服务器造成的访问压力如何?  怎样才算正常。

问题不是很清晰。

也会存在真实蜘蛛抓取量过大导致服务器压力过大,网站打开慢或者无法打开的情况。

解决方向:
1、先要判断是否是真实蜘蛛,如果不是加入黑名单进行控制。

2、如果是百度蜘蛛,建议利用Robots.txt文件避开陷阱。

3、利用抓取频次工具来控制频次。

4、服务器升级

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/87754.html