首页 > 问答 > 关于单个的页面抓取过度的判断?

关于单个的页面抓取过度的判断?

[导读]:怎么判断一个网站的哪个页面抓取过度? 朋友说抓取过度可以从日记和sell中判断,sell是什么? shell指令: $ cat |awk '{print $8}'|sort|uniq -c|sort -nr 选取$8(访问URL)降序排列并...

怎么判断一个网站的哪个页面抓取过度?

朋友说抓取过度可以从日记和sell中判断,sell是什么?

shell指令:
$ cat |awk '{print $8}'|sort|uniq -c|sort -nr

选取$8(访问URL)降序排列并输出统计结果
是你的日志名称
参考:

###

是shell
在网站日志看页面重复抓取次数

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/83209.html