【畅聊IT】第37期：人工智能AI能否成为网络安全的"救命星"？

本文来自【双十一畅聊】活动中的优质话题帖
正文：

大家好，我是大白，随着双11的社区预热，我们亲爱的社区也开始了双十一的“忙碌”，我呢也积极的参与双十一的活动也让我为这个氛围添一下属于我自己的笔画。

那么今天我们就针对双十一畅聊的活动，就今天而言提出我自己与大家的讨论命题：人工智能AI能否成为网络安全的"救命星"？？？

在有关新一代网络安全技术的讨论中，AI无疑是一个高频出现的词汇，总是被反复提及。当前的网络攻击形势愈发严峻，安全人员对于利用AI技术保护数字资产表现出了极大热情，无论是深信服的安全产品以及云上产品都有着或多或少的AI影子，例如深信服的云眼、云脑、安全感知平台SIP、下一代防火墙NGAF等等。而AI技术开发人员相较于大多数更是对“AI能够增强网络安全防御能力”这一愿景持乐观态度。他们认为，人为错误是不可避免的，而AI技术可以利用大数据和机器学习持续性观察和监控威胁发展趋势，从而优化提升某些防御行为。

但事物总是具有双面性，随着对AI技术应用效果的观察，很多用户和安全专家发现，目前的AI技术还并不能成为网络安全领域的救星，至少并非像很多安全厂商宣传的那样。人们往往只关注AI的好处，却有意或无意地忽略了它的应用缺陷。这种对AI看法的偏见引起了一些研究人员的担忧，他们认为，尚不成熟的AI技术应用，正在为网络攻击者制造新的漏洞。

针对人工智能AI能否成为网络安全的"救命星"

【本期话题】

1.AI与网络安全结合应该怎么去结合以什么样的方向去发展？

2.AI在你看来到底有什么样的优点？

3.AI在你看来到底有什么样的缺点？

【畅聊时间】
2022年11月25日-12月15日

【本期奖励】

1、幸运奖：本帖设置1000S豆回帖奖励，每次回复有机会获得10S豆

2、优秀回复奖：凡回复的内容，被管理员设置为优秀回复的，即可获得100S豆打赏！

3、最高人气奖：被管理员设置为优秀回复并且点赞数最多的用户，可获得500S豆奖励（要求点赞数至少在10条以上）

（注意：双十一畅聊活动奖励已派发，与畅聊IT奖励不重复发放）

希望大佬们积极回复一下望各位不吝赐教。

1、科学在不断进步与发展，对于现在来说AI还只是一种帮助人们去对网络安全加强和巩固的一种手段，而且网络安全的前提是人们能够解决问题的基础上去开发能够解决问题的人工智能，所以个人认为AI与网络安全应该是以一种相辅相成的结合方式去发展，说白了就像是现在的机械化生产一样，帮助人们减轻压力，以便更快更好的完成本来繁琐和复杂的工作
2、AI的优点在于能够帮助人们做事的时候事半功倍，就比如漫威电影里面的人工智能管家贾维斯和小罗伯特唐尼一样，能够帮助或者配合自己的“主人”去完成一些本来需要花费大量时间去完成的事
3、“AI的缺点”这句话表述的不太准确，应该是“AI的进步程度百分比”来表述更恰当一些，因为AI所谓的“优点”和“缺点”是基于源代码跟计算逻辑还有大量数据等等的缜密程度相挂钩的，也就是说不管是“优点”还是“缺点”都是需要人们更加成熟的技术去做基础，总结来说就是科学发展日益进步，AI的智能程度也在日益成熟，相信在不远的将来，AI是一种利大于弊的人工智能辅助系统

就目前来看AI结合安全发展还是不太够成熟，就目前流行的态势感知以及SOAR自动化编排，都是以人为中心去做的，完全让AI自己去搞得话，网络估计就瘫了...
当然目前还有一大堆EDR喜欢用的技术是AI的识别攻击，目前来看  还是基于本地及云上的库识别准确率高点

AI 通过使用数十亿的数据工件来完善其知识，以"理解"网络安全威胁和网络风险。 AI 可在几秒钟或几分钟内分析恶意文件、可疑 IP 地址或内部人员等威胁之间的关系。 AI 提供精心策划的风险分析，减少安全分析师做出关键决策和修复威胁所需的时间。 认知安全结合了人工智能和人类智能的优势。

感觉现在人工智能还不是太成熟，想要达到能否成为网络安全的"救命星"时，应该还要发展10到20年左右

感觉现在人工智能还不是太成熟

全民AI的时代，很多学科都开始和人工智能挂钩了，网络安全自然也不例外。

最近几年，人工智能是热度很高的一个话题。AlphaGo的横空出世，以及紧接着其与李世石的世纪人机大战，可以说是人工智能在公众视野中的最后一个引爆点。

自此之后，越来越多的人工智能产品开始出现在公众视野中，可谓是眼花缭乱，给人的感觉是人工智能遍地开花。

ai目前只是只能算是伪ai,只是根据一定的算法去执行特定的操作,虽然能减少部分人工操作,但是里真正的ai还差很远, 更不可能成为网络安全的"救命星",如果那台真正觉醒了自我意识的那才是真正的ai

目前能应用网络安全的人工智能，感觉还是以人为主，机器为辅，能真正的实现智能还是要有很长的一段路要走的。

利端举例：

1.人工智能具有较高的商业价值。人工智能可以很快地收集用户数据，更好地理解用户需求，基于大数据的分析，为用户创造高质量、长期的个性化体验。企业可以相应赚取更多的商业价值。

2.工作效率高、可以减少人工操作所犯的错误。简单的事情可以交给人工智能，我们可以处理更重要更高级的事情。有洗碗机，扫地拖地的机器人。同样，那些简单繁琐的事情，机器人完全不用我们动手就能完成，并且工作速度快，完成效率高。人类能将更多时间节约下来，去做更有意义的事情。

3.提高人类生活质量。当前数据密集型的机器学习和与人工智能对话的系统所延伸的很多领域，未来会带来很多工作机会，会使很多高端领域的人才加入人工智能的研发。与此同时高科技的人工智能会使人们的生活更加方便和便利，提高人们的生活幸福感。

弊端举例

1.机器存在安全隐患。倘若人工智能的控制出现问题，就有可能对在场的工作人员造成伤害，或是对企业的财产造成损失，抑或是存在信息安全漏洞，容易被不法分子窃取隐私。人工智能归根结底还是一段程序，如果要处理的事情超出这个程序所控制的范围，那么人工智能还能否完成任务将成为一大问题。

2.与人类竞争工作岗位，导致大规模人群失业、使得贫富分化加剧。人工智能的发展也将颠覆许多行业。机器人代替了许多人类的工作将导致大量的人口失业，机器新的学习速度远远快于人类，使得大量人口失业。

3.人工智能缺乏人类社会的道德标准。很多事情应守住基本道德底线，但人工智能可能会为达成目标不择手段，从而对人类社会造成威胁。