专栏名称: AIGC开放社区

专注AIGC（生成式人工智能）领域的专业社区，关注GPT-4、百度文心一言、华为盘古等大语言模型（LLM）的发展应用和落地，以及国内LLM的发展和市场研究，社区秉承共建、共享、开放的理念，提供对社区会员有价值的商业化思路和服务。

英伟达发布微型大模型计算机，每秒计算67万亿次

AIGC开放社区 · 公众号 · 互联网安全科技自媒体 · 2024-12-19 03:06

主要观点总结

英伟达（NVIDIA）发布了一款价格实惠的微型生成式AI开发计算机平台Jetson Orin Nano Super（简称“JONS”）。JONS具备高效的硬件配置，包括Ampere架构GPU、多核CPU和强大的运算能力。NVIDIA为JONS提供了全面的软件支持和开发资源，包括Python SDK和其他工具，简化了API集成过程。JONS深度集成了NVIDIA的整个AI生态系统，有助于加速AI项目的开发周期。这款产品的推出，将强大的AI计算能力带到了边缘端，更多人有机会参与AI创新。

关键观点总结

关键观点1: JONS是英伟达最新发布的AI开发平台

继承了前代产品的优点并进行了显著改进，旨在提供强大的AI计算能力。

关键观点2: JONS拥有高效的硬件配置

包括Ampere架构GPU、多核Arm CPU，能在低功耗范围内高效运行，提供高达每秒67万亿次运算能力。

关键观点3: NVIDIA为JONS提供了全面的软件支持和开发资源

包括Python SDK和其他开发工具，以及深度集成的NVIDIA整个AI生态系统，有助于加速AI项目的开发周期。

关键观点4: JONS对于推广AI开发至关重要

随着AI应用越来越依赖于大模型，小巧且经济实惠的硬件设备对于推广AI开发至关重要。JONS将强大的AI计算能力带到了边缘端，让更多人有机会参与到AI创新中来。

正文

英伟达（NVIDIA）发布了一款价格仅为249美元的微型生成式AI、大模型开发计算机平台——Jetson Orin Nano Super（简称“JONS”）。

JONS是NVIDIA推出的最新一代AI开发平台，继承了前代产品的优点，并在此基础上进行了显著改进。新设备配备了NVIDIA Ampere架构GPU，拥有1024个CUDA核心和32个张量核心，以及6核Arm CPU。

这些硬件配置使其能够在7W—25W的低功耗范围内高效运行，同时提供高达每秒67万亿次运算能力，较其前身提升了70%，并增加了50%的内存带宽至102 GB/s。

为了确保开发人员能够充分利用JONS的强大功能，NVIDIA为其提供了全面的软件支持和开发资源。现有的JONS用户可以通过软件更新获得最高1.7倍的生成式AI推理性能提升，保护了用户的现有投资。此外，NVIDIA还推出了Python SDK和其他开发工具，简化了API集成过程，使开发者更容易构建和部署AI应用程序。

更重要的是，JONS深度集成了NVIDIA整个AI生态系统，包括Isaac用于机器人技术和Metropolis用于视觉AI的工具包。这些工具包为开发者提供了一个完整的开发环境，涵盖了从模型训练到部署的各个环节，有助于加速AI项目的开发周期。

随着AI应用越来越依赖于大模型，小巧且经济实惠的硬件设备对于推广AI开发至关重要。JONS正是这样一款产品，它将强大的AI计算能力带到了边缘端，让更多人有机会参与到AI创新中来。

本文素材来源英伟达，如有侵权请联系删除

END