业务经理

微信扫描以上二维码

028-61286886

技术咨询

请问如何避免搜索引擎

迅睿框架 更新 2021-03-30 19:17:21 enchong

请问如何避免搜索引擎,通过这种方式,消耗站点资源

https://域名.com/news/search/catid-8-keyword-注意事项.html
我就想知道,catid-8-是如何被检索到的,如何进行避免,之前网站被MJ12bot一天几百次的爬取,禁止几个搜索引擎之后,现在谷歌开始这样爬取了,主要是带有catid-8-不能正常的完成搜索,出现404页面。

{xunruicms_img_title}

方案

  • 迅睿框架技术-张洪 #1 · 2021-01-24 18:32:31
    通过服务器来拒绝,一般主机服务商有这些规则设置方法
  • 止咳糖浆 #2 · 2021-01-24 18:55:16
    满意答案
    reboot啊,可以过滤
  • 司马老贼 #3 · 2021-01-24 18:56:04
  • enchong #4 · 2021-03-30 19:17:21
    @止咳糖浆:感谢,最简单的方法就是robots.txt禁止访问了

迅睿系统漏洞

多语言翻译Seolang
多语言翻译Seolang(2026-09-21)
1. 新增译文数据备份恢复页面,支持断点续传 2. 多语言声明中心...
AI文章生成器
AI文章生成器(2026-09-20)
任务拆分独立配置 新增AI生成关键词 新增指令模板 新增品牌信...
GEO系统
GEO系统(2026-09-20)
后台 AEO 与运营端对齐:区域、跑批、CSV、补强、剧本均可在迅睿...
GeoSeo工具箱
GeoSeo工具箱(2026-09-18)
修正菜单规范
后台二次登陆验证
后台二次登陆验证(2026-09-18)
新增邮箱验证 新增短信验证
京东云短信
京东云短信(2026-09-17)
- 验证码有效期改只读展示 - 有效期旁新增系统设置按钮 - 保...
创蓝短信
创蓝短信(2026-09-17)
- 验证码有效期改只读展示 - 有效期旁新增系统设置按钮 - 保...
火山引擎短信
火山引擎短信(2026-09-17)
- 验证码有效期改只读展示 - 有效期旁新增系统设置按钮 - 保...
外贸多语言建站
外贸多语言建站(2026-09-17)
优化独立内容过滤机制