专栏名称: 财联社AI daily
财联社及科创板日报旗下产品 ,聚焦TMT领域,更独家、更深度。
相关文章推荐
笔记侠  ·  全面拆解!梁文锋和王兴兴背后的底层逻辑 ·  10 小时前  
现代快报  ·  看个文章隐私就被窃取了?最新揭秘 ·  10 小时前  
现代快报  ·  看个文章隐私就被窃取了?最新揭秘 ·  10 小时前  
南京零距离  ·  3·15线索征集 | 护航新消费 帮忙零距离~ ·  2 天前  
南京零距离  ·  3·15线索征集 | 护航新消费 帮忙零距离~ ·  2 天前  
51好读  ›  专栏  ›  财联社AI daily

人工智能爆发激活网络安全市场 | 调研

财联社AI daily  · 公众号  · 互联网安全 科技自媒体  · 2025-03-14 20:27

正文

随着DeepSeek爆火,以政务、央国企、金融机构为代表的政企单位,成为目前接入、应用DeepSeek的领域中最受关注的群体。
文|赵毅波 郭松峤

随着DeepSeek在政务、金融、通信、汽车、能源等众多领域展露出巨大的应用潜力,一度疲软的网络安全市场得以激活。在近日接受对财联社记者采访时,上市公司盛邦安全副总裁、董秘袁先登如是透露。

国家网络安全通报中心近日发文称,开源跨平台大模型工具Ollama默认配置存在未授权访问与模型窃取等安全隐患。鉴于目前DeepSeek等大模型的研究部署和应用非常广泛,多数用户使用Ollama私有化部署且未修改默认配置,存在数据泄露、算力盗取、服务中断等 安全 风险,极易引发网络和数据安全事件。

“大模型的安全问题是传统网络安全产业之外全新的机遇”,近日,360集团创始人周鸿祎对财联社记者表示,360注意到了大量关于地方政府、央国企私有化部署DeepSeek落地实施过程中,模型与企业知识库融合的敏感数据安全访问,监督模型输出结果降低幻觉的迫切安全需求,360正以安全大模型技术,“以模制模”的方法,搭建起覆盖上述关键问题的全流程安全方案,目前正在方案推广和部分合作接洽中。

▍谁来解决AI时代的安全风险

“完成私有化部署后,虽然数据不出域,但私有化部署并不意味着安全。”

近日,永信至诚相关负责人在接受财联社记者采访时表示,随着AI在越来越多的应用场景落地,更多的新风险和新隐患也逐渐暴露。

近期以来,随着DeepSeek爆火,以政务、央国企、金融机构为代表的政企单位,成为目前接入、应用DeepSeek的领域中最受关注的群体。

以央国企为例,近日,中国石油昆仑大模型已正式完成DeepSeek大模型私有化部署,为昆仑大模型优化应用效果、缩短研发周期、构建健康生态提供了新引擎;国家电网推出基于多模态大模型的“光明电力大模型”,结合DeepSeek技术优化电力行业应用;中国华能完成了DeepSeek系列模型的本地化部署,并在集团“iHN+”移动门户中推出了“睿智小能”AI助手,实现DeepSeek为日常办公与管理赋能;东风汽车旗下自主品牌岚图汽车智能座舱已全面接入 DeepSeek 技术,岚图知音将成为汽车行业首个融合 DeepSeek 技术的量产车型。

清华大学中国现代国有企业研究院研究总监周丽莎对财联社记者表示,目前能源央企已经落地多个AI大模型应用,推动智能化转型。接入DeepSeek,可以提供更多的智能化解决方案,“汽车行业的大模型,可用于企业数据分析和智能决策,提升智能驾驶和车载交互能力。交通与物流领域等央企也可能会利用AI技术优化交通基础设施建设、物流配送路线规划、智能仓储管理等。科技与通信领域央企可能会与DeepSeek合作,推动人工智能在通信技术、网络安全、智能办公等领域的应用。”

财联社记者注意到,在部署模式上,中国石油、国家管网集团、中国海油3家公司明确了私有化部署的模式,国家能源集团、南方电网等公司公司确定本地化部署的模式。国家电网、中国石化、中国海油还强调在国产化算力环境部署。

北京社科院副研究员王鹏认为,本地化部署和私有化部署,由于数据存放在企业内部或私有云端,企业拥有对数据的完全控制权,因此数据安全性和隐私保护程度较高。国产化算力环境部署同样强调数据安全,且通过自主可控的硬件和软件系统,可以进一步降低数据泄露和被窃取的风险。

在接受财联社记者采访时,360集团创始人周鸿祎表示,在可以预见的未来,随着地方政府、央国企密集接入DeepSeek,特别是连接内部知识库,以智能体的形式在大批政府机构和企业中广泛部署,推进“数转智改”,实现降本增效。这个过程会涉及DeepSeek-R1推理模型的基座模型安全问题,知识库的安全问题和智能体安全问题。过程会涉及DeepSeek-R1推理模型的基座模型安全问题,知识库的安全问题和智能体安全问题。

周鸿祎强调,大模型的安全课题是一个全新且有重要意义的事业,它能够护航大模型深入政府机关、企业、普通用户,让全社会更安全、更快速普及大模型相关应用,促进生产力发展。360不拘泥于传统思维,以体系化安全大模型的范式创新,来把握机遇,满足市场快速增长的大模型相关安全需求。

周鸿祎说,大模型的深入应用,可能会面临新的网络安全威胁和挑战既有传统技术范畴,也有伦理和社会层面。包括模型“幻觉”导致的信息误导与决策扭曲,敏感信息和隐私泄露,生成有害内容。

国家网络安全通报中心近日披露, 使用 Ollma 在本地部署 DeepSeek 等大模型时,会在本地启动一个 Web 服务,并默认开放 11434 端口且无任何鉴权机制。该服务直接暴露在公网环境, 存在诸多风险。







请到「今天看啥」查看全文