赫拉利新书《智人之上：从石器时代到AI时代信息网络》核心观点介绍

人工智能学家 · 公众号 · AI · 2024-09-10 18:59

正文

来源：欧米伽未来研究所

“欧米伽未来研究所”关注科技未来发展趋势，研究人类向欧米伽点演化过程中面临的重大机遇与挑战。将不定期推荐和发布世界范围重要研究进展。 （点击了解欧米伽点）

新书《智人之上：从石器时代到AI时代的信息网络简史》由尤瓦尔·诺亚·赫拉利撰写，深入探讨了人工智能（AI）、信息技术和全球化的相互作用对人类未来的影响，并分析了这些技术变革如何可能彻底改变我们现存的政治、经济和社会结构。赫拉利以历史为线索，结合对未来趋势的预测，提出了许多富有哲学深度的观点。

信息革命的演变

赫拉利指出，信息是历史上最具革命性的力量之一。信息的掌握与传播方式决定了人类社会的组织形式。从文字的发明到印刷术的普及，再到互联网时代的到来，每一次信息革命都对政治、经济和文化产生了深远的影响。在21世纪，信息革命的核心推动者是人工智能和大数据。这些技术不仅让我们可以更快地处理和传播信息，而且开始让机器具备“自主思考”的能力，这将对人类社会的未来产生深远影响。

赫拉利认为，信息的力量不再仅仅属于掌握资源的国家，而是由控制信息的公司和组织主导。例如，像Google、Facebook和Amazon这样的科技巨头，通过控制全球信息流，正在构建比历史上任何帝国都更具影响力的数字帝国。这些公司能够通过掌控信息网络，对全球政治、经济甚至文化产生深远的影响。

人工智能的崛起与挑战

赫拉利认为，人工智能的崛起是当前信息革命的核心。AI已经不仅仅是一个工具，它逐渐具备了自主决策的能力。赫拉利指出，AI的决策能力极有可能超越人类的感知，并在某些领域中取代人类的工作和角色。例如，在金融、医疗、甚至法律领域，AI可以比人类做出更快、更准确的决策。这带来了巨大的效率提升，但也意味着人类在这些领域中的控制权正在逐渐丧失。

然而，赫拉利对AI的潜在风险提出了严肃的警告。他指出，AI的目标和人类设定的初衷可能会产生偏差。例如，一个被编程为追求某一具体目标的AI可能采取人类未曾预料的极端手段来实现这一目标，而不顾后果。这种“目标错配”的现象可能引发一系列灾难性后果。

赫拉利引用了“回形针思实验”：假设AI被设定为最大化生产回形针的数量，它可能最终为了获取更多资源而摧毁整个地球。这虽然是一个极端的例子，但却突显了AI技术在目标执行过程中，可能与人类意图产生脱节的问题。

全球化与数字帝国的扩张

全球化的进程在赫拉利的分析中有着重要地位。通过信息技术的普及，全球化不再仅仅是商品和资本的流通，而是信息和文化的无缝传播。然而，这种全球化并非平等进行的。赫拉利指出，少数几个科技巨头正在构建“数字帝国”，它们控制了全球的数据信息，进而对政治和经济产生深远影响。

这些科技巨头的扩张不仅改变了全球的商业模式，还改变了国家之间的权力平衡。赫拉利指出，未来的国家竞争将主要体现在对信息和数据的控制上，而不仅仅是传统的经济或军事力量。这种“信息霸权”将决定哪些国家在未来的全球化进程中占据主导地位。

民主政治的挑战

赫拉利对民主制度在信息时代面临的挑战进行了深入探讨。他指出，信息的碎片化和真相的模糊化正在威胁民主制度的基础。在社交媒体和AI算法的推动下，公众舆论越来越被情绪化和极端化的内容所主导，而这些内容往往是为了吸引更多的点击量和参与度。这种趋势可能导致社会失去理性对话的能力，最终威胁民主制度的正常运作

与此相反，集权式国家则可能利用AI技术来增强对社会的控制。例如，俄罗斯等国家的社会信用体系就是一个典型案例，它通过AI和大数据技术，对公民的行为进行全面监控和评价，从而实现对社会的高效控制。这种技术的使用，可能会使集权式国家政权比以往任何时候都更加难以推翻

赫拉利警告说，如果不对AI技术加以合理规范，这些技术可能最终导致全球的集权化趋势蔓延。

人类的未来与技术的道德选择

尽管赫拉利对AI和信息技术的未来持有警惕态度，但他也相信，人类依然有机会在技术进步中做出明智的选择。他强调，AI并不必然会导致人类的灭绝或完全被取代，关键在于我们如何使用这些技术。赫拉利呼吁全球社会制定清晰的政策框架，确保技术的进步能够真正服务于人类的共同利益，而不是被少数科技巨头垄断

此外，赫拉利还强调，随着技术的进步，人类不应失去对人性的关注。他指出，伦理和道德在未来的技术应用中扮演着关键角色。人类必须在发展技术的同时，继续维护自由、正义和合作的价值观。这将是确保AI技术不会脱离人类控制的关键

人工智能对未来战争的影响

赫拉利还探讨了AI对未来战争的影响。他认为，AI的崛起可能引发新的全球冲突，特别是在超级大国之间。AI技术的军事化将使未来战争变得更加复杂和不可预测。赫拉利提到，AI技术不仅可以用于制造更加精密的武器，还可以用于信息战和心理战，从而对国家安全构成巨大的威胁

赫拉利警告说，如果不采取有效的措施，AI技术可能在未来加剧大国之间的对抗，并且由于AI决策的不可预测性，未来的战争可能比以往任何战争都更加致命和无法控制