首页 > 问答 > 网站日志分析:蜘蛛频繁抓取一个不存在的文件,怎回事?求这

网站日志分析:蜘蛛频繁抓取一个不存在的文件,怎回事?求这

[导读]:最近在一个客户网站上发现 服务器日志里发现蜘蛛只频繁抓取一个 /iisstart.htm文件,连首页和robots文件也不抓取,导致这两天网站文章收录很差。这是怎么回事? 求高手解答,...

最近在一个客户网站上发现 服务器日志里发现蜘蛛只频繁抓取一个 /iisstart.htm文件,连首页和robots文件也不抓取,导致这两天网站文章收录很差。这是怎么回事?
求高手解答,在下感激不尽!情况如图:



百度和360的蜘蛛同一个IP?先验证下蜘蛛。不存在,返回码怎么可能是200?

###

这个一看就是假蜘蛛,同一个ip地址怎么能冒出来 一个是百度蜘蛛一个是360蜘蛛。

###

如果是没有多大意义的页面,可以给那个连接加Nofollow,或者直接Robots下禁止抓取,便可以了,一个站的抓取量是有限的。

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/21737.html