头部安全企业重点布局——IDC Perspective：AI大模型赋能安全能力品牌推荐与洞察研究报告发布

IDC咨询 · 公众号 · 科技自媒体互联网安全 · 2024-10-10 11:40

正文

北京，2024年10月10日

新的生成式AI场景涌现，人类社会已经进入到AI无处不在的时代。根据IDC的定义，生成式AI场景主要分为三大类：一是生产力场景，即针对具体工作任务设计，用于替代、提高员工生产力水平，这类业务价值完全可以通过底层基础模型预训练的内容和数据来实现，代表场景包括报告内容总结、职位描述生成、代码生成等；二是业务职能场景，即将已经训练好的生成式AI模型与公司数据集成，供营销、销售、采购等特定业务部门或职能部门使用，但需要注意此类能力受公司业务数据的约束，公司对客户数据、产品数据、知识库等仍有知识产权泄露和数据治理方面的顾虑；三是行业场景，这类场景不具备泛化性，通常需要更多的定制化AI开发工作，企业通常采用自研以及与外部AI公司合作的方式，围绕具体的场景进行模型筛选、架构设计、数据训练、部署实施，但对于大型企业和行业龙头企业来说，这些工作是真正可以带来业务价值的地方。

IDC于近日发布了《革新安全防护-基于大模型的安全能力品牌推荐与洞察-安全运营，2024》（Doc# CHC52613424，2024年10月）。通过本次调研发现，从行业场景视角看，在IT领域，GenAI将在未来18个月内对网络空间安全与合规领域产生最具颠覆性的影响。大模型在网络安全领域中的应用已经成为一个重要的趋势，目前已经在多个方面展现了其独特的价值和潜力。

本次研究报告对包括360数字安全集团、阿里巴巴、安恒信息、Fortinet、火山引擎、金睛云华、绿盟科技、奇安信、启明星辰集团、深信服、天融信、新华三、亚信安全（按公司首字母拼音排序）在内的国内外网络安全领域头部企业进行了调研，并针对性的围绕告警关联、用户和实体行为分析（UEBA）、编写检测规则、引导调查、自动运行和实施剧本5个用例进行了评估和技术推荐。

从当前调研来看，GenAI有潜力提升安全分析师的效率和效果，但无法改变分析师在实施安全策略中的核心地位。安全运营中心仍在寻找那些能够最大化效益和投资回报的场景来应用GenAI。那些勇于创新的安全供应商将有效利用GenAI和预测性AI，深入理解如何利用生成式AI背后的预测模型来生成更优质的安全策略，从而实现更出色的检测与防御结果。而拥有丰富AI/ML数据和专门知识的公司一定会推动创新，并提供更出色的解决方案。

基于本次调研，IDC有如下建议给技术买家：

积极拥抱安全大模型。最终客户应该关注安全大模型与安全运营中心融合的趋势，积极尝试采用先进技术以应对黑产的高级攻击。
大模型赋能安全运营是否成功关键在于告警关联、用户和实体行为分析、编写检测规则、引导调查、自动运行和实施剧本等方面的能力，这些需要在POC过程中进行逐一验证。
关注易用性。大模型与安全运营中心融合，易用性对于使用者非常重要，例如，输入Prompt指令后，大模型可以自动化进行分析、处置，执行剧本。同时，处置方面，可以根据需要，自动生成安全策略（在界面中要有清晰的体现），而无需人为手工添加。管理员可以最终判断是否执行这些自动生成的安全策略。另外，工作流程逻辑是否合理，界面展现是否清晰易懂也需要考量。
关注算力资源投入。大模型的训练及推理需要大量的算力资源投入，在算力资源紧缺的当下，这些资源是能否构建一个优质的安全大模型的基础。
关注人才资源。包括AI工程实践经验，专业的网络安全经验对于高效的安全大模型都是至关重要的。
关注是否具备准确和全面的语料。安全语料可以包括整体安全态势、攻击和漏洞的描述、检测技术、防御技术、响应流程方法等准确的信息。源源不断的海量、高质量安全语料是构建安全大模型的基础，也是关键要素。另外，良好的日志兼容性很重要，这有助于获取高质量的数据进行训练，从而获得更好的分析结果。
关注服务能力。强大的服务能力可以弥补客户人才资源不足的问题，也有利于企业自身获得长期专业的支持。必须做到专业人员的跟踪服务，确保大语言模型产生的报警、分析、建议是准确和全面的。尤其在融合大模型后，安全运营平台上线初期，需要网络安全组织和公司较大的服务投入。