0010 发表于 2025-9-19 08:42
  
道路千万条,学习第一条!每天迅速GET新知识!
新手598854 发表于 2025-9-19 08:42
  
道路千万条,学习第一条!
新手981388 发表于 2025-9-19 09:32
  
3、数据安全分类分级效率提升40倍,但AI的决策是否可能存在“误伤”或“盲区”?如何平衡自动化与精准性?
深信服在数据安全分类分级中通过AI技术实现效率提升40倍,但AI决策仍存在“误伤”或“盲区”风险,需通过以下策略平衡自动化与精准性:
一、AI决策的潜在风险

    误伤场景
        对抗样本攻击:攻击者可构造特殊数据(如对抗样本)误导AI判断,导致敏感数据误标或漏标。例如,深信服提到AI在威胁检测中可能因训练数据偏差或新型攻击模式识别不足产生误报。
        规则依赖缺陷:传统规则引擎难以覆盖复杂场景(如医疗影像、合成数据),AI若过度依赖静态规则可能误判非结构化数据。
        动态环境适应性:数据类型、业务逻辑快速变化时,AI模型若未及时更新可能滞后于新威胁或新数据特征。
    盲区场景
        上下文理解缺失:AI缺乏人类对业务逻辑、社会工程学攻击的深层理解(如伪造CEO邮件的钓鱼攻击需结合组织权力结构分析)。
        数据质量依赖:低质量或噪声数据导致模型泛化能力下降,如深信服指出数据质量直接影响AI决策置信度。
        新兴威胁识别延迟:零日攻击、APT(高级持续性威胁)等新型风险需人类专家结合威胁情报综合研判。

二、平衡自动化与精准性的实践路径

深信服通过“技术+管理”双轮驱动实现平衡,具体措施包括:
1. 技术优化:提升AI决策的鲁棒性与准确性

    多引擎融合:结合规则库与机器学习双引擎,如深信服安全GPT 4.0集成“大模型算法+威胁情报+安全知识”,通过动态分析实现90%检出率。规则引擎覆盖已知模式,AI引擎挖掘未知威胁。
    自适应学习与对抗训练:通过持续训练模型(如深信服的对抗学习技术)和引入小样本学习,提升模型对新型攻击的识别能力。例如,深信服安全GPT 3.0通过对抗学习优化定向钓鱼攻击检测,误报率显著降低。
    多维度特征提取:利用NLP、正则表达式、元数据分析等技术,对数据字段进行多维度语义和结构化特征提取,如深信服平台通过机器学习聚合相似字段,智能推荐分类分级结果,准确率超95%。
    可解释性AI(XAI):通过可视化工具展示AI决策逻辑(如攻击链路图、风险预测),辅助人类理解模型判断依据,减少“黑箱”风险。

2. 人机协同:弥补AI的认知盲区

    分级响应体系:深信服采用“侦察兵+智能副官”模式,AI负责实时监控、日志分析、初步筛选(如7×24小时异常流量检测),人类专家进行高阶决策(如风险评估、资源分配)。例如,常规威胁由AI自动处理,高危事件启动“战争指挥部”模式,多领域专家与AI协同决策。
    人工复核与反馈循环:关键环节保留人工验证机制,如深信服要求对AI分类结果进行人工复核,并通过用户反馈优化模型。例如,某金融客户案例中,AI将平均响应时间从15分钟缩短至8秒,但最终决策仍需人类确认。
    业务上下文注入:人类专家将业务逻辑、合规要求、历史案例等上下文信息输入AI系统,提升模型对复杂场景的理解能力。例如,深信服提到AI需结合生产排期、设备维护记录判断OT网络异常行为是否为真实攻击。

3. 流程与制度保障

    动态标准更新:定期评估业务变化、法规要求及技术演进,调整分类分级标准。深信服建议每季度或半年度审查数据分类分级体系,确保与最新合规要求(如《数据安全法》《个人信息保护法》)和业务需求同步。
    跨部门协作机制:建立数据管理、安全、业务部门的沟通渠道,确保分类分级标准统一、执行顺畅。例如,深信服强调跨部门协同解决数据质量、成本分担与隐私保护问题。
    培训与能力建设:对数据管理人员进行专业培训,提升其对分类分级标准、工具操作及风险识别的能力。深信服提供操作手册、定期培训课程及在线支持,确保团队技能与工具能力匹配。
    元数据与资产管理:构建统一元数据管理系统,记录数据属性、来源、使用场景等信息,为AI提供结构化输入,减少因数据孤岛导致的误判。深信服平台支持自动生成数据目录,关联分类分级规则,快速确定数据级别。

三、行业实践与效果

    效率提升:深信服安全GPT 4.0通过动态分类分级和风险研判,将数据调查时间从传统方案的数小时缩短至分钟级,效率提升40倍以上。
    精准性保障:通过人机协同和反馈优化,误报率显著降低。例如,某能源企业安全团队经过6个月协同作战,AI对工控系统误报过滤准确率从78%提升至93%。
    合规与业务融合:深信服方案支持与零信任架构、数据库审计系统联动,实现“识别-防护-追踪”闭环,满足监管要求(如银行保险机构数据安全管理办法)的同时,提升业务连续性。
小黑工程师i 发表于 2025-9-19 09:47
  
随着ChatGPT、Copilot等AI工具的普及,AI赋能网络安全已经不是一个未来概念,而是正在发生的现实,当AI成为网络安全的标配时,它对于普通用户来说,更像是一把“智能保护伞”,适应这种模式并不需要用户成为技术专家,但确实需要转变观念和培养一些新的“数字生活习惯”。
南京锐和成王康 发表于 2025-9-19 10:02
  
道路千万条,学习第一条!每天迅速GET新知识!
dhf 发表于 2025-9-19 10:14
  
日灌文章三百贴,不辞常驻此社区。
新手796028 发表于 2025-9-19 10:45
  
道路千万条,学习第一条!每天迅速GET新知识!
SnowWolf 发表于 2025-9-19 10:57
  
道路千万条,学习第一条!每天迅速GET新知识!
王老师 发表于 2025-9-19 11:16
  
研究表明,AI存在“自我纠错盲点”:当错误信息来自外部输入时,AI的纠错准确率比处理自身生成错误时高64.5%。例如,AI能轻易发现用户输入的错误答案“字母A后面是C”,但对自己生成的同类错误却难以察觉。这种偏差类似于人类心理学中的“确认偏差”,即AI更易接受支持自身结论的信息,而忽视相反证据。
神呆乐观 发表于 2025-9-19 13:00
  
道路千万条,学习第一条!为让大家迅速GET新知识!!

发表新帖
热门标签
全部标签>
新版本体验
每日一问
标准化排查
纪元平台
GIF动图学习
功能体验
高手请过招
产品连连看
网络基础知识
安装部署配置
每周精选
社区新周刊
声音值千金
平台使用
【 社区to talk】
安全效果
信服课堂视频
畅聊IT
专家问答
技术盲盒
答题自测
技术笔记
技术圆桌
在线直播
MVP
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
2023技术争霸赛专题
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案
2025年技术争霸赛
工具体验官

本版版主

2452
1778
39

发帖

粉丝

关注

本版达人

七嘴八舌bar

本周分享达人