大数据文摘受权转载自学术头条
作者：
木木
人工智能（AI）大模型（如语言、视觉、多模态模型）的突破引发了广泛关注，一些人认为通过扩大数据与算力将催生通用人工智能（AGI）的诞生，人类也即将见证具有超级智能的智能体（agent）。
无论是乐观的技术“鼓吹派”，还是更为担忧的“灾难担忧派”，都在广泛传递这这样一种关于 AGI 的宏大叙事
。
但是，最新一期的
Science
期刊发表了一篇题为“Large AI models are cultural and social technologies”文章，提供了
一种与主流观点不同的思考角度，为这一前景泼了冷水
。
来自芝加哥大学圣达菲研究所和约翰霍普金斯大学等多所顶尖机构的研究人员认为，
关于大模型和 AGI 的叙事，不仅让大家误解了这些模型的本质以及它们与过去技术变革的关系，更重要的是也转移了我们对这些技术所带来真实问题和机遇的关注，让我们忽视了历史所能提供的经验和教训
。
文章指出，大模型技术与智能 agent 存在本质区别，并不具备真正的智能和自主性，它们无法像人类一样感知和应对复杂多变的外部世界，也无法自主设定目标和价值观。
大模型本质上应该被视为一种新兴的文化和社会技术，其核心功能是帮助人类更加高效便利地利用历史积累的信息，而非发展出独立的 agent
。
作者们强调，结合社会学、行为科学与计算机科学的见解，有助于我们更准确地理解 AI 系统。
这一观点可通过历史上类似技术（如文字、印刷术）的变革影响得到印证。
未来或许可能出现更接近智能 agent 的 AI 系统，我们可以讨论如何应对这些假设的 AI 系统，但大模型并非这样的系统，它们更像印刷术、图书馆目录或互联网技术一样，是人类文化与社会技术发展长河中的一部分。
大模型更应是当代“印刷术”
我们不妨暂时摘掉当前对大模型技术的狂热滤镜，回顾社会学家们对过去技术变革的独特理解，
重新思考一下大模型技术的本质
。
人类文明因文化而起，也依赖文化得以生存和发展。从语言的出现开始，人类便具备了从他人经验中学习的独特能力，这可能是人类文明高速进化的关键之一。
同样，我们也很好理解，历史上每一项重大技术的突破都导致了社会的急剧变革。在语言之后，人类文明史上的标志性文化技术还包括符号、文字、书籍及印刷术、音视频技术等。随着信息能够在更广阔的空间和时间范围内变得触手可及，我们获取、理解和生产信息的方式也随之扩展，从图书馆到互联网搜索，从书信到音视频社交，这些技术的发展都对人类思想和社会文化产生了深远影响。
（来源：wikipedia）
例如，
18 世纪
印刷技术的广泛进步，使人类新思想能够迅速传播，在启蒙运动和法国大革命中发挥了重要作用。进入
21 世纪
后，几乎所有来自文本、图片和动态图像的人类文化产物都被转换为数字格式，实现了瞬间传输和无限复制。这些创新不仅重塑了知识分配模式，也颠覆了政治经济和社会组织形式。
作者指出，大模型与历史上的文化和社会技术有许多相似之处。
首先，
大模型具备获取和重组人类积累知识的能力，类似于书写、印刷、互联网搜索等技术
，它们能够访问由其他人类创造的信息，并对其进行重新组织和转换。例如，大语言模型（LLM）可以对海量文本进行分析和总结，生成人类可读的文本内容。同时，它们还能对信息进行大规模的模拟和重构，就像市场、国家等对资源分配和社会结构进行重组一样。
同时，文化和社会技术不仅依赖于个体的知识和决策能力，还能反过来塑造个体的知识和决策。
大模型通过提供信息和知识，影响人们的思维方式和行为模式。
例如，聊天机器人可以根据用户的输入生成回复，这些回复可能包含新的观点和信息，从而改变用户的认知和决策。此外，大模型还可以通过自动化任务和提供智能辅助，提高人类的工作效率和生活质量。
也就是说，与蒸汽机、电力等纯粹的技术创新不同，大模型本质上是一种特殊的文化和社会技术，融合了文化与社会技术的双重特性，是能够组织、传递和转换人类文化知识，以及协调个体信息收集和决策的系统，它们直接作用于人类社会的文化和社会层面，具有深刻的社会变革潜力。
此外，
大模型的运行高度依赖人类协作
，即依赖数万名标注员通过强化学习人类反馈（RLHF）优化输出，用户需要通过对话引导模型推理。本质上，当用户向模型索取求职信建议时，他们正与成千上万前人的经验及标注员的知识间接互动。
所以，
关于大模型的真正担忧不在于是否会创造出威胁人类的超级智能，而在于我们如何驾驭这一新型文化技术
，平衡效率与多元、权力与公正。
历史提醒我们：技术的影响从未注定，而是社会选择的结果。唯有融合工程智慧与社科洞察，方能引导 AI 成为人类文明的赋能者，而非支配者。
超越 AGI 叙事，从历史中寻找经验
