专栏名称: 默安科技
引领下一代企业安全体系——开发安全(DevSecOps)与运营安全(AISecOps)双轮驱动。
目录
相关文章推荐
命里有票  ·  用DeepSeek和豆包分别计算了一个日期问 ... ·  6 小时前  
命里有票  ·  用DeepSeek和豆包分别计算了一个日期问 ... ·  6 小时前  
兵团零距离  ·  十二师政府产业引导母基金正式成立 ·  昨天  
兵团零距离  ·  十二师政府产业引导母基金正式成立 ·  昨天  
南京市场监管  ·  在菜场碰到这个“码”,记得扫! ·  昨天  
南京市场监管  ·  在菜场碰到这个“码”,记得扫! ·  昨天  
重庆日报  ·  小猿搜题等82款违法违规App被查处 ·  2 天前  
重庆日报  ·  小猿搜题等82款违法违规App被查处 ·  2 天前  
法治时报  ·  女子盗窃后求助DeepSeek,回答亮了! ·  2 天前  
法治时报  ·  女子盗窃后求助DeepSeek,回答亮了! ·  2 天前  
51好读  ›  专栏  ›  默安科技

幻阵AI沙箱集群来了:让你的AI助手更安全

默安科技  · 公众号  · 互联网安全  · 2025-02-20 12:31

正文


AI技术正以惊人的速度重塑各行各业——从全民热议DeepSeek,到政企争相部署大语言模型以获取最新的AI能力,AI应用场景正以前所未有的创新活力蓬勃发展,不断拓展新领域、新方式和新需求。大语言模型仿佛一夜之间成为政企数字化转型的“标配”。然而,在这场狂欢的背后,一场隐秘的安全危机正悄然蔓延。


deepseek.png (图源 网络)

据《环球时报》最近的报道,政企在运行DeepSeek等大模型的服务器里,有高达88.9%的服务器处于毫无安全防护措施的状态。 当软件工程师利用开源工具快速搭建各类AI服务时,许多系统以“裸奔”状态暴露在互联网上,攻击者无需破解复杂防线,只需扫描到开放的AI接口,便能像“免费试驾”一样肆意调取核心数据,严重威胁政企信息安全和用户个人隐私。 例如:

·高频API调用可能导致系统过载,引发服务瘫痪

·未授权的API可能使攻击者任意获取用户与模型对话中的敏感数据


默安科技作为主动防御领域的创新型安全厂商,第一时间关注到AI广泛应用带来的安全风险,幻阵高级威胁狩猎与溯源系统(简称幻阵)目前已支持最新的AI沙箱资产,在政企发布AI应用时提供高度仿真的沙箱服务,并可无缝集成到现有沙箱蜜网群,与业务系统同步运行,从而帮助各行业构建更适应新形势的主动防御安全体系。


!

幻阵AI沙箱集群能力





能力一:丰富的 GenAI沙箱集群

·支持主流AI开源框架:Ollama、Dify、ClearML等多种AI服务沙箱


·支持构建高交互性AI Web应用沙箱:Chatbox、Chatbot UI、OpenWebUI等,仿真用户与AI服务的真实交互场景


此外,通过默安科技的创新型乐高式组合沙箱,可直接将GenAI沙箱集成到现有沙箱蜜网群中。



能力二:AI诱饵投放

支持将虚假API密钥陷阱、虚假测试模型、伪造训练数据集,通过办公主机网络或文件投放,以及AI反制能力。


·虚假API密钥陷阱

·虚假测试模型

·伪造训练数据集


AI诱饵投放分为三个阶段:

事前,信息搜集阶段,通过发布互联网诱饵、文件诱饵进行信息干扰混淆;

事中,入侵攻击阶段,通过在主机上散布办公网诱饵、主机诱饵将攻击目标重定向到沙箱中;

事后,通过反制诱饵及文件诱饵的反制功能进行追踪溯源及司法取证。


!

AI沙箱落地场景





场景一:互联网AI应用保护

·挑战: 目前,政企发布AI服务需满足《生成式人工智能服务管理暂行办法》的合规要求,且面临攻击者通过模型越狱、安全机制逃逸等新型攻击手段窃取模型权重等敏感信息的威胁,导致服务安全性与业务连续性受损。


·方案: 部署幻阵互联网AI沙箱系统,通过高仿真环境混淆攻击目标,延缓攻击进程,完整记录攻击路径、行为特征及攻击载荷,实现攻击行为全链路监测与攻击者身份溯源。


·价值: 在攻击者进行信息搜集、尝试攻击时,对其进行迷惑干扰,尽可能早地发现攻击,并溯源出攻击者身份。


AI助理相关.png (图源 网络)









请到「今天看啥」查看全文