为算法“立规矩”,守牢信息安全关
  

火狐狸 1013

{{ttag.title}}
生活中,不时出现这样一幕:孩子们双眼紧盯手机,上下来回滑动屏幕,只在长辈叮嘱时心不在焉地抬头回应。

青少年深陷于各类APP无法自拔,这类现象并不鲜见。从事教育工作多年的市人大代表张治捕捉到根本诱因——社交媒体的算法成了“帮凶”。以某视频类社交媒体为例,为提升用户黏性,该平台不断通过数据挖掘构建更精准的用户画像,通过持续“投喂”用户可能感兴趣的视频内容。心智尚未成熟的青少年很容易就此上瘾。

眼下,上海正加快建设更具国际影响力的人工智能高地。强化制度供给,推动完善人工智能伦理规范是关键一环。恰逢《上海市促进人工智能产业发展条例》施行满一年,张治等代表建议,加强面向中小学生的人工智能算法伦理审查承诺,守住安全边界,让算法发挥更积极的社会价值。

近日,市经济信息化委对代表建议作出回应,将在今年年底前计划出台人工智能示范应用清单,并鼓励支持企业、高校、基础教育机构等围绕智能教育伦理审核开展交流合作,营造更清朗的网络空间。

“信息茧房”困住井底之蛙

“投其所好”的算法推荐,不仅令大量青少年沉溺其中,更加速形成“信息茧房”。在不少专家看来,其背后直指信息窄化现象。因为个性定制的算法推荐,部分公共信息难以穿透个人的“茧房”。张治引用互联网版的“井底之蛙”故事来生动阐释:“个性算法推荐下,看过互联网的青蛙,其认知中的世界依然只有井口这么大。”

有网友曾亲身实验,针对同一则视频内容,妈妈和孩子看到的评论天差地别。孩子看到的评论大多在抱怨原生家庭,而妈妈看到的大多是家长在自诉不易。

“无法看到不同的消息、听到不同的观点,人们容易陷入偏见的漩涡,逐渐失去辨别真相的能力。”在张治看来,这对于身心尚未成熟的青少年来说会有不可估量的负面影响。

国家网信办等四部门此前曾联合发布《互联网信息服务算法推荐管理规定》,明确提出算法知情权、算法选择权。具体包括平台要公示服务的基本原理、目的意图和主要运行机制等,用户可选择关闭算法推荐服务。

不过,有用户测评后反馈,关闭各平台的算法推荐服务犹如剥洋葱,少则5步,多则7步。且这项功能通常被藏在“隐私设置”菜单中,用户稍不留意就容易错过。专家认为,接下来要进一步压实平台责任,把算法推荐的“开关”选择权交给用户。

为算法伦理守住安全边界

频繁“投喂”的定制内容,不仅挤占了青少年的学习生活时间,也刷出了满满焦虑。

有研究认为,持续浏览视频等会加剧青少年的“上行社会比较”,导致青少年偏好与比自己强的人作比较,造成心理落差,带来负面情绪。

“智能算法要匹配青少年的心理成长规律,互联网企业在推出产品时首先要在算法上‘自证清白’。”在张治看来,企业加强内部约束机制,针对算法实行合规管理并制定伦理准则是当务之急。

在此基础上,政府还要建立算法备案机制。此前,国家网信办已开设互联网信息服务算法备案系统。截至今年1月,共有102家企业的223项算法通过了备案。“政府+企业”的合力监管,为算法治理构筑了基础框架。

“光是备案算法和进行安全评估还不够,更需从算法设计和应用的源头入手,建立可信的标准规则,让设计者、使用者厘清边界。”华东政法大学助理研究员向秦说。

上海政法学院教授张继红也认为,伦理审查应贯穿于算法设计事前、事中。“人的观念会伴随设计进入算法,若仅实施算法的事后审查,不仅效果不佳、整改成本高,且重大风险一旦发生也将很难逆转。”

事实上,算法追责在实操层面并不容易。比如,因算法模型导致青少年暴力行为、抑郁情绪,就很难在现实中取证认定。张继红更进一步提出,针对高风险和中低风险的人工智能产品和服务,算法问责也应实现差异化、精细化,避免问责过度、过宽从而限制产业的健康发展和创新。

专家学者一致认为,算法审查不能单一强调监管,过程中还应充分体现公众参与。比如,根据《条例》要求夯实人工智能伦理专家委员会机制,吸纳教育、心理等各领域专家,并对算法可能造成的社会心理影响进行长期动态的多维度考量,更好地为算法“立规矩”。

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
安全效果
每日一问
干货满满
【 社区to talk】
技术笔记
产品连连看
新版本体验
技术咨询
GIF动图学习
功能体验
2023技术争霸赛专题
每周精选
通用技术
自助服务平台操作指引
信服课堂视频
标准化排查
秒懂零信任
安装部署配置
排障笔记本
玩转零信任
答题自测
原创分享
技术晨报
社区新周刊
POC测试案例
畅聊IT
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
高手请过招
升级&主动服务
高频问题集锦
全能先锋系列
云化安全能力

本版达人

adds

本周建议达人

无极剑圣

本周分享达人

新手25642...

本周提问达人