请问如何避免搜索引擎
请问如何避免搜索引擎,通过这种方式,消耗站点资源
https://域名.com/news/search/catid-8-keyword-注意事项.html
我就想知道,catid-8-是如何被检索到的,如何进行避免,之前网站被MJ12bot一天几百次的爬取,禁止几个搜索引擎之后,现在谷歌开始这样爬取了,主要是带有catid-8-不能正常的完成搜索,出现404页面。

请问如何避免搜索引擎,通过这种方式,消耗站点资源
https://域名.com/news/search/catid-8-keyword-注意事项.html
我就想知道,catid-8-是如何被检索到的,如何进行避免,之前网站被MJ12bot一天几百次的爬取,禁止几个搜索引擎之后,现在谷歌开始这样爬取了,主要是带有catid-8-不能正常的完成搜索,出现404页面。
