开发者新闻 | 使用新的小型语言模型在 NVIDIA RTX AI PC 上部署代理、助手和化身

NVIDIA 刚刚宣布了一系列小型语言模型 (SLM)，这些模型增加了数字人类可以用于增强其响应的信息的数量和类型。这包括提供更多相关答案的新大型上下文模型和允许图像作为输入的新多模态模型。这些模型现已作为 NVIDIA ACE 的一部分提供，ACE 是一套数字人类技术，为代理、助手和化身带来生命。

NVIDIA ACE 推出首个多模态 SLM

为了提高数字人类的反应能力，他们必须能够像人类一样吸收更多的世界背景。NVIDIA Nemovision-4B-Instruct 模型是一个小型多模态模型，使数字人类能够理解现实世界中的视觉图像，并在 Windows 桌面上输出相关响应。

该模型使用最新的 NVIDIA VILA 和 NVIDIA NeMo 框架和配方进行提取，修剪和量化，使其足够小，可以在广泛的 NVIDIA RTX GPU 上运行，同时保持开发人员所需的准确性。多模态是代理工作流程的基础，使数字人类能够在几乎没有用户帮助的情况下进行推理和采取行动。

全文链接：

https://developer.nvidia.com/blog/deploy-agents-assistants-and-avatars-on-nvidia-rtx-ai-pcs-with-new-small-language-models/