[导读]:几个网站一个数据库,有几个网站不想让所有的蜘蛛抓取,只有一个可以抓,因为是数据库同步,所以这几个站只有一个后台,共用一个robots,要怎么做才可以像让我指定的网站...
几个网站一个数据库,有几个网站不想让所有的蜘蛛抓取,只有一个可以抓,因为是数据库同步,所以这几个站只有一个后台,共用一个robots,要怎么做才可以像让我指定的网站能被蜘蛛抓取,而屏蔽其他网址呢,下面这种写法可行吗?
User-agent: *
Disallow:www.不想让抓的站1.com
Disallow:www.不想让抓的站2.com
Disallow:www.不想让抓的站3.com
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/48730.html