首页 > 问答 > 百度蜘蛛每天1400左右的抓取频次,绝大部分都是抓取的js和css文

百度蜘蛛每天1400左右的抓取频次,绝大部分都是抓取的js和css文

[导读]:百度蜘蛛每天1400左右的抓取频次,绝大部分都是抓取的js和css文件,需要屏蔽吗,不屏蔽的话会不会浪费了抓取次数,20多天还没有自然收录过内页 Robots文件里面可以写上禁止抓...

百度蜘蛛每天1400左右的抓取频次,绝大部分都是抓取的js和css文件,需要屏蔽吗,不屏蔽的话会不会浪费了抓取次数,20多天还没有自然收录过内页

Robots文件里面可以写上禁止抓取JS和CSS,这些都没啥太大作用

###

屏蔽

###

屏蔽,不屏蔽太浪费资源了

###

最好是Robots 设置下,主要抓取了JS,css什么的没用

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/96179.html