专栏名称: 网空闲话plus
原《网空闲话》。主推网络空间安全情报分享,安全意识教育普及,安全文化建设培育。将陆续推出网安快讯、网安锐评、网安政策、谍影扫描、APT掠影、密码技术、OT安全等专集。
目录
相关文章推荐
参考消息  ·  莫迪到访前,美国放话施压 ·  19 小时前  
卢克文工作室  ·  从 680 万到涨停再到通报批评,A ... ·  2 天前  
参考消息  ·  泽连斯基为与普京和谈开条件 ·  2 天前  
GBA Community  ·  DeepSeek Confuses ... ·  2 天前  
GBA Community  ·  DeepSeek Confuses ... ·  2 天前  
参考消息  ·  两架F-35拦截俄军机编队 ·  4 天前  
51好读  ›  专栏  ›  网空闲话plus

以子之矛,攻子之盾!人工智能创建的恶意软件可以欺骗人工智能杀毒软件

网空闲话plus  · 公众号  ·  · 2024-06-10 07:18

主要观点总结

本文主要介绍了对抗性训练在防御对抗性恶意软件中的有效性,以及生成对抗性恶意软件样本的挑战。美国和非洲的科学家团队开发了一种创建勒索软件的尖端方法,能够绕过现代基于AI的防病毒系统,提出了一个名为EGAN的攻击框架。该框架利用进化策略和生成对抗网络选择一系列攻击动作,使勒索软件在保持原始功能性的同时发生变异,并能够有效躲避AI和非AI杀毒软件的检测。

关键观点总结

关键观点1: 对抗性训练的重要性和挑战

对抗性训练是防御对抗性恶意软件的有效策略,但生成对抗性恶意软件样本存在挑战,需保持隐蔽性和功能性。

关键观点2: EGAN攻击框架的介绍

EGAN利用进化策略和生成对抗网络选择攻击动作,能够绕过现代基于AI的防病毒系统,并降低了生成的对抗性勒索软件被检测到的风险。

关键观点3: EGAN攻击框架的效果测试

研究者在AI商用杀毒软件、商用病毒扫描器和沙箱动态分析上测试了EGAN框架,结果显示大多数AI杀毒软件无法检测出生成的对抗性勒索软件。

关键观点4: EGAN攻击框架的意义和潜在问题

EGAN框架提供了一种有效的方法来生成对抗性勒索软件,但同时也突显了对抗性勒索软件的令人担忧的性质。静态分析证实,勒索软件分类器在检测这类攻击方面是无效的。此外,该框架也提醒我们现有的分类器可能无法应对高风险应用中的统计假设矛盾。


正文

对抗性训练是针对对抗性恶意软件的一种有效防御策略。然而,为此类训练生成对抗性恶意软件样本存在挑战,因为所产生的对抗性恶意软件需要保持隐蔽性和功能性。来自美国和非洲的科学家团队开发了 一种创建勒索软件的尖端方法,可以绕过现代基于人工智能的防病毒系统。在他们的论文《EGAN: Evolutional GAN for Ransomware Evasion》中提出了一个名为EGAN的攻击框架来解决这一局限性。EGAN利用进化策略和生成对抗网络选择一系列攻击动作,这些动作可以在保持原始功能性的同时使勒索软件变异。研究者在VirusTotal上列出的流行的AI驱动商业杀毒软件上测试了该框架,并证明了他们的框架能够绕过这些系统的大多数。此外,研究人员还评估了EGAN攻击框架是否能够躲避其他商业非AI杀毒软件,结果表明,这些杀软对生成的对抗性勒索软件检出率明显降低。

EGAN简介
某些类型的勒索软件攻击使用生成对抗网络 ( GAN ),这是一种通过反复试验来提高其能力的深度学习架构。GAN架构由两个人工神经网络组成,它们相互竞争,为特定任务创造越来越好的结果。在这种情况下,这可能意味着分析能够绕过安全措施的恶意软件的特征之后,能够进一步改进软件开发。
科学家创建的方法称为EGAN(进化生成对抗网络)。EGAN结合了进化策略(ES)和生成对抗网络(GAN),以选择可以修改勒索软件文件同时保持其功能的操作。EGAN中的ES代理与经过训练的算法竞争,该算法通过测试修改勒索软件文件的不同方法来识别恶意软件。

EGAN结构概览
EGAN通过特征提取、对抗性特征向量生成、对抗性勒索软件生成这三个步骤最终生成勒索软件样本。
效果测试
研究者设置了三种试验场景。
一是静态的AI商用杀毒软件检测 ;70种杀软中仅有5个能够检测出是恶意软件。其中就是安天的杀毒引擎(Antiy-AVL),表现不错。

二是静态商用病毒扫描器检测 ;使原本大概率检测的情况发生变化,仅有很少部分杀软能够检出。

三是沙箱动态分析 ;卡巴的动态沙箱没有检出。

结论对建议
确定一种有效的方法来生成对抗性勒索软件以进行对抗性训练,同时不损害其功能性,仍然是一个具有挑战性的任务。然而,本研究提出了一个有力的理由,即使用EGAN(带有GAN的进化策略)来生成对抗性勒索软件。对抗性勒索软件样本在静态和动态勒索软件分类器上进行了评估,应用到勒索软件的变换实现了显著的规避率。






请到「今天看啥」查看全文