2024议题-AI Native Security Application: From a LLM OS Perspective

嘶吼专业版 · 公众号 · 互联网安全 · 2024-07-17 14:00

正文

循万变·见未来——技术前瞻

未来，大语言模型将在 网络安全的人机交互、威胁检测、事件推理、辅助决策等多个环节得以深入应用， 与此同时， 可精确计算、合法合规的、可解释的、保护隐私的可信大模型 将成为安全智能研究的重点。

——绿盟科技天枢实验室主管研究员 ‍ ‍

张润滋

随着大模型技术的发展，围绕大模型的核心技术范式，重构传统应用，已成为人工智能应用领域的重要发展赛道。

为了有效缓解安全对抗与运营中的信息爆炸挑战，全面提升对抗与运营技术的自动化水平，亟需研究基于大模型的安全应用研发与运营新范式。

本届XCon2024大会中，来自绿盟科技天枢实验室的主管研究员张润滋 将 从AI Native Security Application（AI原生安全应用）的视角出发，探索基于大模型重构安全应用的未来框架。

议题将系统 分析安全智能化的需求与人工智能原生安全能力的内涵， 进而基于工业界与学术界在大语言模型操作系统技术领域的进展，讨论 在安全场景下大模型应用的未来范式， 包括人机协作的运营智能滑动标尺， 进一步设计并提出面向安全应用的大语言模型操作系统概念框架， 并识别了该领域技术蕴藏的潜在风险，以期为安全领域智能化发展提供系统性研究视角。

议题简介

《AI Native Security Application: From a LLM OS Perspective》

本议题将 基于网络空间安全人工智能发展趋势，分析AI原生安全应用的新需求， 并通过对大语言模型操作系统研究前沿总结，阐述 面向安全应用的大语言模型操作系统框架， 并对其中蕴含的包括 编程语言风险、机器幻觉风险和对抗失效风险 进行解析。

议题将面向大模型驱动安全智能的新机遇与新挑战，梳理大模型操作系统的研究进展， 为AI原生安全应用的新范式提供系统性的分析视角。

演讲人介绍

张润滋——绿盟科技天枢实验室主管研究员