专栏名称: 人工智能学派
人工智能学派专注于分享:GPT、AIGC、AI大模型、AI算力、机器人、虚拟人、元宇宙等AI+160个细分行业!
目录
相关文章推荐
陕西市场监管  ·  下月起汇算,最高可享8400元 ·  昨天  
陕西市场监管  ·  下月起汇算,最高可享8400元 ·  昨天  
会计雅苑  ·  新兴际华集团更换会计师事务所 ·  4 天前  
心禅道  ·  投资#804 ... ·  3 天前  
心禅道  ·  投资#804 ... ·  3 天前  
51好读  ›  专栏  ›  人工智能学派

AIGC专题:2023云原生产业大会-构建可信AIGC云原生应用

人工智能学派  · 公众号  ·  · 2024-07-25 17:45

正文

今天分享的是:AIGC专题:2023云原生产业大会-构建可信AIGC云原生应用

报告共计:16页

《构建可信的AIGC云原生应用》介绍了英特尔在云原生领域的技术和能力,以构建可信的AIGC应用。

容器运行时安全不断演进,机密容器(Confidential Containers)利用硬件TEE保护应用、模型和数据,提供了安全上云的新范式。它于2022年3月成为CNCF沙箱项目,具有易用、完整安全特性和广泛业界支持等设计原则,且容易与各种云服务集成。CoCo项目的技术路线图包括镜像加密、远程证明、K8S集成等功能的发展。

英特尔的高级矩阵扩展(AMX)有助于加速深度学习工作负载,第四代英特尔至强CPU Max具有强大性能。Intel Extension for PyTorch针对大语言模型进行了定制优化,内置多CPU/多节点扩展支持。英特尔至强处理器能加速大模型推理性能,支持1B - 13B的大模型推理。

英特尔信任域扩展(TDX)提供虚拟机级别TEE。在公有云和私有数据中心上,可通过加密、远程证明等方式构建可信AIGC应用,保护关键模型和数据。例如,在公有云上,对AIGC应用镜像和模型、数据进行加密,部署加密访问配置,启动可信应用;在私有数据中心,高价值模型/数据拥有者对模型和数据加密,部署加密数据访问配置,启动可证明的AIGC应用。

总之,英特尔通过一系列技术和措施,为构建可信的AIGC云原生应用提供了全面的解决方案,保障了应用的安全性和可靠性。

以下为报告节选内容








请到「今天看啥」查看全文