专栏名称: NVIDIA企业开发者社区

NVIDIA 英伟达开发者社区是NVIDIA GPU开发者交流平台，通过此平台可第一时间获取NVIDIA GPU 开发相关的新产品、新工具、线上/线下活动的资讯。

开发者新闻 | NVIDIA全面转向开源GPU内核模块

NVIDIA企业开发者社区 · 公众号 · · 2024-08-09 16:37

正文

NVIDIA 全面转向开源 GPU 内核模块

借助 R515 驱动程序，NVIDIA 于2022年5月发布了一套开源的 Linux GPU 内核模块，该模块采用双许可证，即 GPL 和 MIT 许可。初始版本主要面向数据中心计算 GPU，而 GeForce 和工作站 GPU 则处于 alpha 状态。

当时，我们宣布，在后续版本中将提供更可靠、功能齐全的 GeForce 和工作站 Linux 支持，NVIDIA 开放内核模块最终将取代闭源驱动。

NVIDIA GPU 具有通用的驱动架构和功能集。这意味着同一驱动适用于您的台式机或笔记本电脑，也可在云端运行世界上最先进的 AI 工作负载。对我们来说，正确的选择非常重要。

两年过去了，我们利用开源的 GPU 内核模块实现了与原来的应用程序性能相当或更好的性能，并添加了大量新的功能。

异构内存管理 (HMM) 支持
机密计算
Grace 平台的连贯内存架构
等等

现在，我们处于完全过渡到开源 GPU 内核模块的时刻，这是正确的做法。在即将发布的 R560 驱动版本中，我们将作出这一更改。

全文链接：

https://developer.nvidia.com/blog/nvidia-transitions-fully-towards-open-source-gpu-kernel-modules/

全新 NVIDIA NIM：可适用于

Mistral 和 Mixtral 模型并为您的 AI 项目赋能

大语言模型 (LLM) 在企业组织中的应用日益广泛，许多企业都将其整合到 AI 应用中。虽然从基础模型着手十分高效，但需要花费一定的精力才能将它们整合到生产就绪型环境中。NVIDIA NIM 简化了这一过程，使企业能够在数据中心、云、工作站和 PC 等任何位置运行 AI 模型。

专为企业设计的 NIM 提供一整套预构建云原生微服务，这些微服务能够被轻松地整合到现有基础设施中。这些微服务经过精心的维护和持续的更新，具有开箱即用的性能，并确保您能够获得 AI 推理技术的最新进展。

适用于大语言模型的全新 NVIDIA NIM

基础模型的增长源于其能够满足各种企业需求的能力，但没有任何一个单一的模型能够完全满足企业的需求，企业通常会根据特定的数据需求和 AI 应用工作流，在其用例中使用不同的基础模型。

考虑到企业需求的多样化，我们扩大了 NIM 的阵容，涵盖了 Mistral-7B、Mixtral-8x7B 和 Mixtral-8x22B，这三个基础模型在特定任务中的表现都十分出色。