解读RSAC 2021丨当AI学会网络攻防,谁能为它系上缰绳?

安全
最强大的AI技术在SOC里应该能够帮助组织主动识别、隔离及响应安全问题,帮助团队评估问题对业务的相对影响。

 人工智能技术现在几乎可以说是无处不在了。在RSAC 2021看的演讲视频,发表一下我个人的浅见。先说好的方面,人工智能在极大的提高安全工作人员的效率,尤其是在安全从业人员极度短缺的背景之下。AI在XDR、IR方面的作用,对大量数据的智能处理,告警的关联分析,优先级的排序,极大地改善了企业SOC的运行。结果是安全分析员嗨皮了,不用996了。安全工程师高兴了,不用痛苦地维护更新规则了。CISO也高兴了,预算控制好不超额了,董事会也不会一出事就炒鱿鱼了。

最强大的AI技术在SOC里应该能够帮助组织主动识别、隔离及响应安全问题,帮助团队评估问题对业务的相对影响。这类平台能够确定潜在问题是否属于勒索软件攻击、有无渗透至计算机系统内并及时关闭对关键数据的访问通道。此外,这类平台还有望找出具有长期影响的威胁因素,例如可能给组织造成巨大声誉损失的客户数据泄露问题。

网络安全方面有其特殊性,AI也是一把双刃剑。“魔高一尺,道高一丈”,使用AI来对付AI的技术也有不少演讲。

Sophos AI team 讨论了使用GPT来生成特定的文风和内容的句子。黑客可以使用GPT来生成SPAM邮件,同样的AI技术也可以反过来作为SPAM邮件的过滤器来识别AI生成的垃圾邮件。

不管是攻防哪个方向使用AI技术,毕竟还是人在使用AI技术。第一天的keynote演讲,来自哈佛大学肯尼迪学院的安全技术专家、研究员和讲师Bruce Schneier描述了一个科幻电影里的场景,如果AI变成了黑客,会对社会造成怎样的影响。

演讲的题目是《The Coming AI Hackers》,“黑客行为通常被认为是针对计算机系统所做的攻击。这种想法可以扩展到任何规则系统:税法、金融市场和任何法律系统都可以被黑掉。不如设想一下,当AI可以成为黑客的世界–我们的社会、经济和政治系统的黑客被发现来源于计算机系统本身。因此,人们的快速响应方法必须改变。”

这个演讲里有很多有意思的话题。比如说人类有很多认知的东西,是不需要特地写明的,比如同理心、底限。可以说,“人之初,性本善”。现在的AI还没有建立这样的功能。AI可以为实现目标无所不为,因为对AI来说并没有人类习以为常的规则和价值体系。整个演讲很有意思,对于我们技术崇拜者来说,也是从不同角度敲了敲警钟。

责任编辑:Blue 来源: 山石网科
相关推荐

2021-06-02 09:47:48

RSA2021

2021-05-28 16:29:28

RSAC 2021/数

2021-06-02 09:31:31

RSA2021

2010-03-30 09:36:04

2021-06-02 09:45:54

RSA2021

2021-05-27 15:45:14

2021 RSAC

2021-05-28 15:17:29

RSAC2021

2019-03-05 12:43:07

AI攻防OpenAI攻击

2020-02-25 15:53:11

山石网科RSAC 2020

2021-05-28 16:39:29

RSAC2021

2009-11-26 10:58:31

Chrome安装路径

2009-12-29 09:11:54

Windows 7系统锁定

2023-04-28 12:16:31

2019-07-16 13:02:26

BugDebug代码

2018-07-24 11:58:32

2023-03-15 08:03:31

2020-08-14 23:00:18

解读

2020-02-11 17:39:16

人工智能香水制造

2023-04-28 07:36:43

人工智能AIAPI
点赞
收藏

51CTO技术栈公众号