爬虫防御 50

server_小夏 2442

{{ttag.title}}

问题:
     如何防止恶意机器人进行网站URL数据爬取?
行业常用解决方案:
      1、基于源IP访问次数进行策略限制;
      2、基于验证码来区分机器人;
      3、基于连接频率来进行连接限制;
      4、基于系统层面的页面认证;
疑问:
      我想知道AF是如何来防止恶意爬虫机器人的,是否有这块的资料介绍?

爬虫URL.png (114.52 KB, 下载次数: 70)

爬虫URL.png

解决该疑问,预计可以帮助到 17614 人!

回帖即可获得
2S豆
,被楼主采纳即奖励20S豆+悬赏奖励50S豆+10分钟内回帖奖励10S豆 [已过期] ,了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

Sangfor闪电回_小丸子 发表于 2016-6-27 11:35
  
您好 如果对源ip限制有可能导致有些用户访问异常
ps 目前对恶意爬虫防护效果不是很明显
谢谢
北回归线 发表于 2016-6-27 14:15
  
没听说过这个功能,学习下
lemma 发表于 2016-6-27 17:38
  
楼主您好,您说的应该是防火墙的防扫描的功能吧?这个在防火墙--web应用防护里是可以看到的。
小huihui 发表于 2016-6-27 23:54
  
搜索引擎的爬虫可以自定义规则
晴空 发表于 2016-6-29 23:56
  
学习了学习了

等我来答:

换一批

发表新帖
热门标签
全部标签>
每日一问
技术盲盒
干货满满
技术笔记
新版本体验
产品连连看
2023技术争霸赛专题
GIF动图学习
功能体验
标准化排查
技术咨询
自助服务平台操作指引
信服课堂视频
通用技术
社区帮助指南
秒懂零信任
答题自测
安装部署配置
上网策略
SANGFOR资讯
技术晨报
项目案例
深信服技术支持平台
畅聊IT
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选

本版版主

396
135
63

发帖

粉丝

关注

本版达人

新手61940...

本周建议达人

BGP网络

本周分享达人

BGP网络

本周提问达人