[导读]:影视站 包含了,电影导演 演员表 年份 类型 这些独立栏目 每个导演都会生产一个独立页面 www.xxxx.com/daoyan/fengxiaogang ,演员表和年份 类型 都一样生成, 我想把权重就集中...
影视站
包含了,电影导演 演员表 年份 类型 这些独立栏目
每个导演都会生产一个独立页面 www.xxxx.com/daoyan/fengxiaogang ,演员表和年份 类型 都一样生成,
我想把权重就集中在每个电影内页,不要那些大量的导演页面 演员页面,浪费权重的页面,但又想让爬虫去抓里面的内容。
虽然相关随机电影这些都布局了,每次内页刷新都会显示不同的20个相关电影,因为有强迫症还是想让百度继续抓取屏蔽掉的独立目录里面内容。
我应该怎么个写法?
robots.txt 拒绝页面 www.xxxx.com/daoyan/ 全部页面
内容页面自然会展示 导演 演员 年份信息 ,那么 a标签 加 nofollow ?
这个nofollow 和robots.txt 东西,理解的不是太深,知道是什么意思、
上万部影视,起码有十万左右的演员和演员表独立页面,这权重分出去是多难受。
个人建议不想要百度蜘蛛抓取的页面就直接nf掉
###Nofollow只是针对当前页面的链接,Robots可以是一个网站目录也可以屏蔽一个链接
你代码里面设置一下 如果涉及到这个模板的这块就可以用Nofollow
###其实就是你写上nf也不一定也不会抓取只是说也不是完全阻挡蜘蛛
Nofollow 就是让搜索引擎不追踪这个链接。
###不想要这些页面就给a标签加Nofollow
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/53284.html
