大模型专题：2023大模型伦理原则与实践白皮书（附下载）

人工智能学派 · 公众号 · · 2024-04-23 15:39

正文

今天分享的是大模型专题系列深度研究报告：《大模型专题：2023大模型伦理原则与实践白皮书》

（报告出品方：商汤）

报告共计： 33 页

生成式人工智能浪潮下的范式变革

2022年，是人工智能发展历程中极具里程碑意义的一年。以ChatGPT 为代表的生成式人工智能工具迅速火爆全球，成为人类迈向通用人工智能(Artificial General Intelligence)时代的历史性节点之一ChatGPT 基于 NLP 基础模型(NLP 即自然语言处理)，体现出跨知识领域、跨语种、多模态为特征的海量知识挖掘、人机自然交流，能实现撰写代码、回答问题、书写论文、诗歌、剧本等指令，可以让 AI 生产力从重复性体力生产环节向认知和创造性生产环节延伸。上线仅两个月，ChatGPT活跃用户便突破1亿大关，一举成为人类科技史上消费者增长速度最快的应用程序。

ChatGPT 这一现象级应用的成功，标志着人工智能正式进入以“基础模型+微调”为主要特征的生产范式，推动人工智能进入2.0阶段。2012年，后来被誉为“人工智能教父”的Geofrey Hinton 带领团队凭借卷积神经网络(Convolutional Neural Networks,CNN)在[mageNet 的比赛中获得冠军，标志着机器的视觉识别能力能够超越人眼识别准确率，开启了人工智能工业化的进程。由此，人工智能开始走进一个个应用场景。这一阶段，人工智能的生产范式属于典型的“手工作坊”模式，即人工智能厂商需要针对每个细分场景开发专属的模型，进而导致人工智能开发周期长，落地成本高，成为人工智能规模化应用亟待突破的制约。ChatGPT等预训练大模型应用的成功打破了“手工定制”的生产范式，通过“基础模型+微调”的方式，使得一个基础模型能够快速适配海量的下游应用，为人工智能的规模化落地提供了一条可行的路径。

如果以生产模式的差异作为分界线，我们大致可以将 2022年之前的人工智能发展阶段定义为人工智能1.0阶段(AI1.0阶段)，将2022 年之后的人工智能发展阶段定义为人工智能2.0阶段(AI2.0阶段)。AI2.0阶段相比 AI1.0阶段有以下几点显著变化:一是任务类型由封闭场景转向开放任务:二是数据处理模态由单一模态转向多模态;三是模型类型由判别式模型转向生成式模型:四是生产模式由“手工作坊”转向“基础模型+微调”。

进入 AI2.0阶段，人工智能生产范式的变革同样引起了人工智能风险范式的转变。具体来说，一方面任务场景的开放性导致风险的潜在边界理论上被无限放大，风险来源防不胜防，而且风险评估标准更加难以界定;同时，跨模态数据交互能力的实现，在大幅降低 AI 工具应用门槛的同时，也使得 AI 滥用的风险呈指数上升。另一方面，由于生产范式的转变，基础模型内含的风险也会随着下游应用的规模推广而被规模化扩散，风险的外溢性显著提升。此外，诸多安全机制的嵌入也会影响模型自身的表现，如何实现安全能力与模型性能之间的平衡，也成为业界持续面临的巨大挑战。