温故知新 | 大模型专题精选第五期

ADL138：ChatGPT与大模型技术

大规模预训练模型（基础模型）已经成为了人工智能领域的基础架构，在诸多任务上都取得了十分优异的表现。然而，随着模型规模的增大，将模型在特定的领域或者任务进行适配变得越来越困难。最近，参数高效微调(Parameter-Efficient Learning，或者 Delta Tuning)通过固定大模型参数不动，只微调非常少的参数(Delta)，就可以达到与全参数微调相当的效果，取得了很多突破性进展。这类方法不仅可以显著提升模型适配的计算效率、节省存储成本，还可以揭示模型适配的内在规律。本报告将全面介绍基础模型的参数高效微调技术、理论和应用的前沿动态，并且对相关技术的发展进行未来展望。

精彩内容节选

模型适配

下游任务

神经网络

ADL138：ChatGPT与大模型技术

探讨了工具学习(tool learning)的范式，这种范式结合了工具和基础大模型的优势，从而能够实现更加智能地使用工具解决特定任务。首先探讨了人类历史上工具使用的认知起源和基础模型带来的范式转变，并回顾了现有工具学习研究。其次提出了一个通用的工具学习框架，讨论了其中重要的研究课题，例如工具的封装和理解、如何让模型理解用户意图操纵工具等。为了促进这一领域的研究，我们建立了一个交互式工具学习平台，并评估了ChatGPT和GPT-3.5的工具使用能力。最后，我们将讨论工具学习的广泛影响，包括安全、个性化和具身学习等。我们的工作旨在激发进一步研究，将工具与基础模型集成起来，为人类和机器协同工作的未来铺平道路。

精彩内容节选

工具学习

基础模型

NLP任务

ADL134：生成式人工智能基础理论与前沿应用

本报告将从三维生成的基础表达开始介绍，包括神经辐射场(NeRF)、隐式距离场、可微网格模型(DMTet)、高斯点云(Gaussian Splatting)，结合Diffusion方法，介绍上述典型的三维对象生成方法。同时，围绕如何实现快速、高质、鲁棒的3D AIGC方法，介绍近几个月来新出现的3D-AIGC方法，如

Zero-123,MVDreamer,DreamCraft3D。

最后，针对人体三维对象的生成，介绍包括HumanNorm，AvatarRex等针对人头人体静态动态及化身生成的各类方法。

精彩内容节选