《浪潮将至》：技术是救星还是灾难？

贝书单 · 公众号 · · 2025-03-03 18:00

正文

本周我们共读《浪潮将至》，本书总结了即将到来的技术浪潮所具备的四大特征。深入理解这些特征，对我们明确新技术所带来的潜在益处与风险而言至关重要。

这四个固有特征分别是：

第一，技术的高度非对称性影响。你不必力量相当、规模相当地进行对抗，新技术会使得那些看似强大的势力暴露出以前难以想象到的弱点和破绽。

第二，这些技术发展迅猛，呈现出一种超级进化性，它们以惊人的速度迭代、改进，并不断拓展至新的领域。

第三，它们往往具有通用性，能够服务于多种不同的目的。

第四，与任何以往的技术相比，它们越来越展现出一定程度的自主性。

以下文字节选自《浪潮将至》，正是这些特征相互交织，使得遏制与控制工作面临着前所未有的难度与危险性：

非对称性：权力大转移

新技术的出现总会产生新的威胁，带来权力的重新分配，导致进入障碍被消除。新的技术浪潮赋予了人们新的能力，这些能力强大、廉价、易于获取和使用，同时具有定向性且易于扩展。这显然也带来了风险。这些进展意味着权力的大规模转移。具体而言，权力从传统国家和军队转向任何有能力且有意愿部署这些技术设备的个体或组织。显而易见的是，某个操作者只要拥有足够的资金和技巧，便足以控制由数千架无人机组成的庞大机群。

然而，即便对称的行动也未必能幸免于全球性的风险。即将到来的技术浪潮的庞大规模和高度互联性也带来了新的系统性弱点，单一的故障点就可能触发全球范围内的连锁反应。技术的本地化程度越低，其蔓延速度就越快，遏制难度也就越大，反之亦然。

人工智能带来的非对称性风险，远超劣质食品、飞机失事或产品缺陷等传统风险范畴。其风险已延伸到整个社会的层面，使其不再是一种迟钝、被动的工具，而是演变为一个可能引发全球性影响的杠杆。正如全球化、高度互联的市场在金融危机中展现出强大的传染效应，技术亦具备类似属性。网络规模的庞大，使得对潜在损害的遏制变得几乎不可能。相互交织的全球系统已成为遏制工作的梦魇。我们已然身处这样一个全球系统紧密相连的时代。在即将到来的技术浪潮中，任何一个单点——无论是一个特定的程序，还是一个基因层面的改动，都有可能引发翻天覆地的改变。

超级进化性：无尽加速

谈到遏制技术，我们希望技术能以可控的速度发展，这样社会就有足够的时间和空间来理解和适应它。在过去的40年里，互联网已成为历史上成果最为丰硕的创新平台之一。伴随着世界逐步数字化的脚步，互联网这一非物质领域的发展速度令人叹为观止。仅在短短几年时间内，我们就目睹了一些全球范围内使用最广泛的服务的涌现，以及史上规模最大的商业企业的爆发式崛起。

然而，相较于数字化领域日新月异的创新发展，其他领域的进步则稍显黯淡。在无形的代码与数字世界之外，越来越多的人不禁开始质疑：为何我们不再看到如19世纪末或20世纪中叶那般横跨多个领域的广泛创新？在那个短暂的时期里，从交通到工厂，从动力飞行到新材料，几乎世界的每个方面都发生了根本性的变化。但21世纪初，创新开始沿着阻力最小的路径前行，主要聚焦于比特世界而非原子世界。

这种情况正在发生转变。软件的超级进化性正将其影响力扩展至各个行业领域。在未来的40年里，我们将看到原子世界的内容以空前的复杂性与保真度被转化为比特信息。更重要的是，比特世界的内容也将以前所未有的效率和便捷性被转化为实体的原子内容。这在不久前仍是难以想象的事情。

量子技术的能力远超最强大的经典计算机数百万倍，将使这样的过程在分子层面上实现。这正是我们所谓的“超级进化”——一个快速、迭代的创新与创造平台。此种进化将不会局限于特定、可预测或易于控制的领域。它将无处不在。

通用性：多多益善

在近年原子领域创新停滞不前的背景下，医疗保健成了发展明显放缓的领域之一，这打破了传统认知。新药的研发变得越发困难且成本高昂。美国一些州的人口预期寿命不再增长，甚至开始出现下降趋势。阿尔茨海默病等疾病的防治进展也远未达到预期。自动化药物研发是人工智能领域极具潜力的一个方向，也是医疗保健行业摆脱当前严峻形势的出路。人工智能技术能够在浩如烟海的分子世界中，搜索到那些难以寻觅却极具治疗价值的分子。

然而，研究人员在寻找这些有益化合物的过程中也提出了一个棘手的问题：如果有人将研发过程导向恶意目的，不是寻求治疗方法，而是探寻致命物质，那怎么办？在一项实验中，一个具备分子生成功能的人工智能被要求寻找毒药。仅在6个小时后，该人工智能就成功识别出了4万多种毒性极强的分子，其毒性与诺维乔克等极度危险的化学武器相当。这表明，人工智能势必将显著推动药物发现领域的发展，但其研发成果很可能具有“双重用途”。

双重用途技术是指那些既可民用，也可军用的技术。双重用途技术既可以造福，也可能酿祸，既可能是实用工具，又可能是致命武器。这揭示了技术发展的一个趋势，即通用性。然而，正是某些技术的这种特性，使得它们所蕴含的风险越发凸显。这些技术能用于达到各种目的，无论是善是恶，还是介于两者之间，且往往伴随着难以预料的后果。

随着时间的推移，技术正日益趋于通用化。这意味着即将到来的技术浪潮有可能用于武器制造或有害用途，即便相关技术的初衷并非如此。仅仅是民用技术的研发，便可能对国家安全产生影响。在历史上最为通用的新技术浪潮面前，预测技术的全部应用范围比以往任何时候都更加困难。

改造新技术以适应多种用途并非一个新鲜概念。像刀这样的简单工具既能用于切割洋葱，又可能成为疯狂杀戮的凶器。即便是看似专用的技术也常具有双重用途：麦克风既可用于纳粹集会，也可用于披头士乐队。即将到来的技术浪潮的与众不同之处在于其迅速渗透的能力、全球性的传播范围、易于分解为灵活组件的特性，以及其应用的强大功能与广泛性。从媒体到心理健康，从市场到医药，这场浪潮在各个领域都展现出了错综复杂的影响。这无疑构成了一个规模前所未有的遏制难题。毕竟，我们探讨的是智能与生命这样的基本属性，而这两者除了其通用性之外，还拥有一个更为有趣的特质。

自主性及其他：人类是否仍是主角？

《浪潮将至》：技术是救星还是灾难？

正文

请到「今天看啥」查看全文