×

【每日一记4】+第3天+人工智能系统的攻击面
  

一个无趣的人 13761人觉得有帮助

{{ttag.title}}
今天来学习一下人工智能系统攻击面:加油:
人工智能系统的应用场合和作用功能多样,例如无人驾驶、声音识别、机器翻译等,核心部分主要包括数据和模型.如图1所示,根据数据流向,人工智能系统主要包含了4个关键环节:
1) 输入环节.
人工智能系统通过传感器(摄像头、麦克风、激光雷达、GPS等)获取外部环境数据,或者通过直接读取文件获取数据.
2) 数据预处理环节.
输入的原始数据需要经过格式转换、尺度变换、数据压缩等预处理工作,以满足机器学习模型输入格式要求,同时降低数据量以保证系统工作的实时性.
3) 机器学习模型.
机器学习模型是人工智能系统的核心,即“大脑”,主要包括训练和测试2个阶段.在训练阶段,机器学习模型利用预处理过的训练数据对模型参数进行调节,以提升对于特定任务的工作性能(通常用准确率、召回率等指标衡量).对于强化学习(reinforcement learning),还存在模型与环境的动态交互过程.当训练完成时,机器学习模型就进入了测试阶段.训练好的模型将根据输入提供相应的输出结果.
4) 输出环节.
人工智能系统会以标签、置信度等多种形式给予输出,为后续的分类、决策等任务提供支持.
由于人工智能系统所处环境的开放性,输入、输出2个环节会直接暴露在攻击威胁环境中.在后续的介绍中将会看到,即使在预处理环节或机器学习模型被隐藏的情况下,攻击者仍然可以通过发送轮询样本的方式对系统内部结构进行推测并发动攻击.
今天的学习就到这里。

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

平凡的小网工 发表于 2020-3-31 11:09
  
大神的文章真如“大音希声扫阴翳”,犹如”拨开云雾见青天”,使我等求知者看到了希望,看到了未来!
发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
安全效果
【 社区to talk】
技术笔记
干货满满
每日一问
信服课堂视频
新版本体验
GIF动图学习
技术咨询
功能体验
2023技术争霸赛专题
产品连连看
安装部署配置
通用技术
秒懂零信任
技术晨报
自助服务平台操作指引
原创分享
标准化排查
排障笔记本
玩转零信任
排障那些事
SDP百科
深信服技术支持平台
POC测试案例
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
高手请过招
升级&主动服务
高频问题集锦
社区新周刊
全能先锋系列
云化安全能力

本版达人

新手68983...

本周分享达人

零和一网络

本周提问达人