专栏名称: NVIDIA企业开发者社区

NVIDIA 英伟达开发者社区是NVIDIA GPU开发者交流平台，通过此平台可第一时间获取NVIDIA GPU 开发相关的新产品、新工具、线上/线下活动的资讯。

开发者新闻 | 掌握 LLM 技术：数据预处

NVIDIA企业开发者社区 · 公众号 · · 2024-11-26 13:27

正文

掌握LLM技术：数据预处

大型语言模型 (LLM)的出现标志着行业如何利用 AI 来增强运营和服务的重大转变。通过自动化日常任务和简化流程，LLM 可以释放人力资源，用于更具战略性的工作，从而提高整体效率和生产力。

训练和定制高精度的 LLM 充满了挑战，主要是因为它们依赖于高质量的数据。数据质量差和容量不足会显著降低模型的准确性，使数据集准备成为 AI 开发人员的关键任务。

数据集经常包含重复的文档、个人身份信息 (PII) 和格式问题。一些数据集甚至包含对用户构成风险的有毒或有害信息。在这些数据集上训练模型，如果不进行适当的处理，可能会导致训练时间更长，模型质量更低。另一个重大挑战是数据的稀缺。模型构建者正在耗尽可供训练的公开数据，这促使许多人转向第三方供应商或使用高级 LLM 生成合成数据。

在这篇文章中，我们将描述通过提高训练数据质量来优化 LLM 性能的数据处理技术和最佳实践。我们将介绍 NVIDIA NeMo Curator 以及它如何应对这些挑战，并展示 LLM 的真实数据处理用例。

全文链接：

https://developer.nvidia.com/blog/mastering-llm-techniques-data-preprocessing/

通过 NVIDIA Project GR00T 推动人形机器人视觉和技能发展

人形机器人在机电一体化、控制理论和 AI 的交叉领域提出了多方面的挑战。人形机器人的动力学和控制是复杂的，需要先进的工具、技术和算法来保持运动和操作任务中的平衡。收集机器人数据和集成传感器也构成了重大挑战，因为人形机器人需要融合复杂的传感器和高分辨率摄像头，才能有效地感知环境，并判断如何实时与周围环境互动。实时处理传感数据和决策的计算需求也需要强大的机载计算机。

开发能够实现自适应机器人行为并促进自然人机交互的技术、工具和机器人基础模型，仍然是一个持续的研究重点。NVIDIA Project GR00T 是一项积极的研究计划，旨在使人形机器人生态系统的建设者能够加速这些下一代先进机器人的开发工作。在这篇文章中，我们将讨论用于人形开发的新 GR00T 工作流程，包括：