社区编辑申请
注册/登录
黑客如何使用AI和ML来瞄准企业
安全 应用安全 人工智能
黑客还利用机器学习和人工智能,用不准确的数据破坏人工智能模型,从而破坏环境。机器学习和人工智能模型依靠正确标记的数据样本,来构建准确和可重复的检测配置文件。通过引入看起来类似于恶意软件的良性文件或创建被证明是误报的行为模式,黑客可以诱骗AI模型,使其相信攻击行为不是恶意的,还可以通过引入AI训练标记为安全的恶意文件来毒化AI模型。

网络安全得益于AI和ML的进步。今天的安全团队被关于潜在可疑活动的数据所淹没,常常大海捞针。人工智能通过网络流量、恶意软件指标和用户行为趋势中的模式识别,帮助安全团队在这些数据中发现真正的威胁。

而黑客常常利用人工智能和机器学习方面来对付企业。例如轻松访问云环境,使得开始使用AI并构建强大、有能力的学习模型变得简单。

让我们看看黑客如何使用人工智能和机器学习来瞄准企业,以及防止以人工智能为重点的网络攻击的方法。

黑客使用AI对抗安全团队的3种方式

1.在基于人工智能的工具测试恶意软件是否成功

黑客能以多种方式使用ML。第一种方法是通过构建他们自己的机器学习环境,并对自己的恶意软件和攻击实践进行建模,以确定安全团队寻找的事件和行为的类型。

例如,一个复杂的恶意软件可能会修改本地系统库和组件,在内存中运行进程,并与黑客控制基础设施拥有的一个或多个域通信。所有这些活动结合在一起创建了一个称为战术、技术和程序(TTP)的配置文件。机器学习模型可以观察TTP,并使用它们来构建检测能力。

通过观察和预测安全团队如何检测TTP,黑客可以巧妙而频繁地修改指标和行为,领先于依赖基于人工智能的工具检测攻击的安全团队。

2.用不准确的数据破坏AI模型

黑客还利用机器学习和人工智能,用不准确的数据破坏人工智能模型,从而破坏环境。机器学习和人工智能模型依靠正确标记的数据样本,来构建准确和可重复的检测配置文件。通过引入看起来类似于恶意软件的良性文件或创建被证明是误报的行为模式,黑客可以诱骗AI模型,使其相信攻击行为不是恶意的,还可以通过引入AI训练标记为安全的恶意文件来毒化AI模型。

3.绘制现有AI模型

黑客积极寻求绘制网络安全供应商和运营团队使用的现有和正在开发的AI模型。通过了解人工智能模型的功能及其作用,黑客可以在其周期内积极干扰机器学习操作和模型。这可以使黑客通过欺骗系统来影响模型,使系统有利于黑客。它还可以让黑客通过巧妙地修改数据来避开基于已识别模式的检测,从而完全避开已知模型。

如何防御以人工智能为中心的攻击

防御以人工智能为重点的攻击是极其困难的。安全团队必须确保与学习模型和模式开发中使用的数据相关联的标签是准确的。通过确保数据具有准确的标签标识符,用于训练模型的数据集可能会变得更小,这对人工智能的效率没有帮助。

对于那些构建AI安全检测模型的人来说,在建模时引入对抗技术和策略可以帮助将模式识别与野外看到的策略结合起来。约翰霍普金斯大学的研究人员开发了木马软件框架,以帮助生成木马和其他恶意软件模式的人工智能模型。麻省理工学院(MIT)的研究人员发布了一款用于自然语言模式的工具TextFooler,该工具可能有助于构建更具弹性的人工智能模型,以检测银行欺诈等问题。

随着人工智能的重要性日益增长,黑客将寻求通过自己的研究来超越安全团队的努力。对于安全团队来说,及时了解黑客的攻击策略以防御他们是至关重要的。

责任编辑:华轩 来源: 千家网
相关推荐

2022-06-07 10:09:42

新技术人工智能5G

2022-06-15 08:21:49

Linux运维工程师

2022-06-08 14:17:57

网络安全人工智能加密流量

2022-05-31 10:30:16

元宇宙数字人高清渲染

2022-06-20 06:27:58

Meta人工智能AI模型

2022-05-14 16:08:25

边缘计算AI人工智能

2022-03-31 14:40:04

元宇宙AI虚拟

2022-06-09 10:12:01

网络安全人工智能威胁监测

2022-06-15 14:40:54

英特尔漏洞

2022-06-13 15:35:53

计算

2022-05-25 14:10:51

学术数据

2022-06-16 16:12:57

网络资产攻击面管理CAASM

2022-06-08 19:08:32

2022-05-05 08:25:22

模型OpenAI代码

2022-05-03 23:21:13

安全意识网络安全网络钓鱼

2022-05-17 14:03:42

勒索软件远程工作

2022-03-31 08:00:00

人工智能技术数字化转型

2022-05-20 06:14:57

人工智能AI

2022-04-26 06:42:02

AI安全NIST网络安全

2022-05-24 09:57:32

微软开源AI 驱动

同话题下的热门内容

无线网络安全的12个优秀实践如何保证应用程序的安全性无密码身份验证需要知道什么?恢复和弹性:首席信息安全官对2022年网络安全形势的洞察勒索软件团伙声称对非洲最大的零售连锁店Shoprite发动攻击Gartner公布了2022-23年八大网络安全预测数字化时代,企业须做好用户信息安全

编辑推荐

权威解读 | 网络安全等级保护2.0标准体系以及主要标准百亿级访问量的实时监控系统如何实现?浅谈反浏览器指纹追踪符号执行:利用Angr进行简单CTF逆向分析拿什么拯救你,我的网络安全
我收藏的内容
点赞
收藏

51CTO技术栈公众号