首页 > 问答 > 网站抓取配额是固定的,有必要屏蔽无效的css和js等页面抓取量

网站抓取配额是固定的,有必要屏蔽无效的css和js等页面抓取量

[导读]:网站的抓取配额是固定的,但总有些时候,百度抓取一些jss和css等会浪费大量的配额,甚至有时候占比比较大,为了保证网站有效页面的抓取,有什么好的方法可以避免百度的无...

网站的抓取配额是固定的,但总有些时候,百度抓取一些jss和css等会浪费大量的配额,甚至有时候占比比较大,为了保证网站有效页面的抓取,有什么好的方法可以避免百度的无效抓取呢?

我觉得还是要看网站日志吧,。你看一下百度蜘蛛在你的网站上具体抓取了什么,然后再做决定

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/44361.html