开发者新闻 | 借助 NVIDIA JetPack 6.0 助力边缘云原生微服务，现已正式发布

NVIDIA JetPack SDK 为 NVIDIA Jetson 模组提供支持，为构建端到端加速的 AI 应用提供全面的解决方案。JetPack 6 通过微服务和一系列新功能扩展了 Jetson 平台的灵活性和可扩展性。这是 JetPack 2024 年下载次数最多的版本。

随着 JetPack 6.0 正式发布，开发者可以满怀信心地将这些新功能引入更先进的嵌入式 AI 和机器人应用。本文重点介绍了主要功能和新的 AI 工作流程。

JetPack 6 支持在 Jetson 上扩展一系列基于 Linux 的发行版。其中包括Canonical 的 Ubuntu 服务器、Redhat 的 RHEL 9.4、SUSE、Wind River Linux、Redhawk Real Time OS 以及各种基于 Yocto 的发行版。这些基于 Linux 的发行版在 Jetson 上提供了商业支持的企业产品，可以放心地部署和管理基于 Jetson 的产品。

运行任何Linux内核的能力使 Jetson 客户能够使用他们选择的内核版本，并避免不得不花费资源将其驱动反向移植到特定的 Jetson Linux 内核。Jetson 客户可以独立于 JetPack 路线图维护其内核。

借助 JetPack 6，您可以自由升级计算堆栈，而无需升级 Jetson Linux BSP。此功能在社区中特别受欢迎。

此外，JetPack 6 还将 Jetson 平台服务添加到 Jetson Linux BSP 和Jetson AI Stack 中。Jetson 平台服务是一套预构建和可定制的服务，旨在加速Jetson 设备上的 AI 应用程序开发。这些模块化服务集合支持由 API 驱动和分解的真正云原生应用。

全文链接：

https://developer.nvidia.com/blog/power-cloud-native-microservices-at-the-edge-with-nvidia-jetpack-6-0-now-ga/

• 适用于单精度、双精度和半精度的分组 GEMM API
• 最新的 LLM matmul 性能 NVIDIA Hopper (H100 和 H200) 和 NVIDIA Ada (L40S) GPU
• 关于 cuBLAS 性能调整选项、基准测试和 API 推荐的说明
• 改进了 cuBLASLt 中的功能覆盖范围