AI威胁未来人类社会？ 为AI设定的“二十三条军规” | 总编专栏

陈宗周是《环球科学》杂志社社长，《电脑报》创始人。

柯洁在乌镇与AlphaGo的棋局已经没有悬念，人们把目光投向AI与人类未来。

2017年5月23日，AlphaGo来到中国浙江乌镇，与当今世界围棋第一强者柯洁对奕。其实，这次三番棋的围棋比赛已经没有悬念。此前的上年末这年初，AlphaGo已经与全球顶尖围棋手连下60盘棋，无一败绩。据说，柯洁曾面对当时化名为Master（大师）的升级版AlphaGo，两战皆负。在乌镇，柯洁要战胜又经过几个月自我学习的AlphaGo，没有可能。结局果然如此，AlphaGo以3:0轻取。赛后，代表人类作最后顽强抵抗的柯洁有感而泣，称赞机器对手太完美了。

的确，AlphaGo在棋局中有着绝对的统治力，人类棋手没有任何胜机。赛后，柯洁宣布，这是自己与AlphaGo最后的比赛。DeepMind也同时宣布AlphaGo退役，今后不再与人类比赛。人机围棋大战，棋局已经结束，AlphaGo将进入更广泛更深入的AI领域。

乌镇内外，全球媒体关注的焦点也超越围棋，聚焦AI与人类的未来。

围棋等博弈类游戏，还只是AI能力的一次试验。随着AI这一轮强劲复兴，在一个又一个领域里，AI的卓越表现让人惊艳，但新一轮的担忧又出现了：AI会超越人类智能吗？什么时候超越？AI会威胁人类吗？在一天天强大的AI面前，人类将何去何从？

貌似能解答这些问题的人，一个个适时出现了。2017年年初， 牛津大学 历史学博士、以色列 希伯来大学 的历史系教授尤瓦尔·赫拉利（Yuval Harari）的一本新书中文版一纸风行，书名叫《未来简史》（ Homo Deus: A Brief History of Tomorrow ）。虽然冠以历史，但全书却是在描述人类未来，尤其是AI影响下的人类未来。书名中的拉丁文 Homo Deus ，意思是人神或神人，翻译者处理为智神。作者的上一本畅销书《人类简史》讲述作为智人的人类，如何创造了今天的辉煌，而新书则讲述人类的新阶段，即受到AI强烈影响的阶段。书中有一个关键的、极端的、当然也备受争议的观点，那就是在AI影响下，人类的大部分可能变成无用阶级，只有少数人进化成特质发生改变的智神（人神）。

《未来简史》这个时候出版，自然引起了广泛关注。尽管也受到了广泛的严厉批评，如英国《经济学人》杂志尖锐抨击《未来简史》是“一部肤浅、华而不实的作品。”但这些批评似乎没有影响书的热销，书中观点，如认为无机算法（机器算法）会超越有机算法（生物算法，即人类算法）、智人（今天人类）会失去统治力等等，都广为传播。

而美国发明家、未来学家雷·库兹韦尔（Ray Kurzweil）在十多年前的《奇点临近》（ The Singularity Is Near: When Humans Transcend Biology ）一书中，同样对未来作出大胆假设。这本书不但预言AI会超过人类智能，还预言未来AI和人类会紧密结合，形成人机系统。他甚至敢预测具体时间，说21世纪40年代中期，这样人机融合的奇点（突变点）时刻就会来临。

如果仔细阅读相关书籍，会发现名人及他们的畅销书其实也并不完全是在描述黑暗未来。2017年1月新华社记者采访尤瓦尔·赫拉利，直截了当地问他对人类未来是悲观还是乐观。他的回答是——总体乐观，关键在于全球合作。对于人工智能可能带来的问题，最重要的是处理好人类和技术的关系，让技术服务人类，而非奴役人类。而包括人工智能问题、生物技术可能带来的问题、气候变化问题，都需要全球共同应对，因为没有一个国家可以单独解决这些问题。从历史上看，人类总能直面挑战。比如上世纪五六十年代，人们曾担心核武器会毁灭地球，但最终，人类用智慧解决了这一问题，保持了总体和平的形势。

如果赫拉利有着这样的认知，也许与多数人的意见并不相左。但是，由于媒体的推波助澜，名人们对AI未来发展的各种负面分析和预言更加集中和突出，使AI威胁论形成舆论涟漪，一波接一波扩散。

而主流AI专家学者，坚持反对AI威胁论。脸书（Facebook）AI实验室主任、纽约大学计算机科学教授杨立昆（Yann LeCun），是深度学习的主要奠基者之一，他非常反感AI威胁论。 2014年4月在接受IEEE 《Spectrum》采访时，他认为AI研究者在之前很长的一段时间都低估了制造智能机器的难度。AI的每一次新浪潮，都会带来这么一段从盲目乐观到不理智、最后到沮丧的阶段。

今天出现AI威胁论的盲目悲观预言，很像是进入一片生机勃勃茂密森林的人，迷失了眼前的方向和路径。如果能登上森林之巅远望，回顾来路，远眺前方，那结论可能完全不同。

历史是一面镜子。《互联网进化论》作者、中国人工智能专家刘峰博士这样分析道：历史上，我们一路在恐惧中走来，恐惧过日食、月食；新技术革命后，我们的恐惧更为频繁，害怕过机器，恐惧过机器控制人类；害怕过火车，认为会破坏龙脉；害怕过电视，担心永远沉迷于节目中；害怕过千年虫，会导致社会大混乱；现在开始恐惧人工智能。担心人类变为奴隶，甚至木偶，这恐惧依然是历史上种种恐惧的延续。

是的，现在的AI威胁论，依然是人类未来不确定恐惧症的延续，每当重要的新事物出现时，这种恐惧症就会周而复始出现。而这样的恐惧症，往往由于名人和智者一时或片面的言论而得以加重，甚至出现了AI会终结人类的呓语。

为AI发展作出奠基性贡献的阿兰·图灵，既是智者，也是名人。他系统研究过机器能否思考、机器是否具有智能这类问题，并很早就预言过计算机的未来。图灵1954年不幸去世后，母亲莎拉·图灵（Sara Turing）写了一本影响很大的书，书中引用了图灵最亲近同事、英国数学家纽曼的夫人一封信。纽曼夫人写道：“我记得大约是1948年，阿兰同我丈夫坐在我家位于鲍顿的花园里讨论计算机及其未来动向。我未能参加这次讨论，但不少话语传入了我的耳中。突然我听到一句话，使我不禁全身打颤。阿兰沉思后说，‘我推测当计算机发展到那个阶段，我们将可能不了解它是怎么工作的。’”图灵对计算机未来的思考，不仅影响了在场的纽曼夫人，也曾影响了那一代人。但是，快70年了过去了，我们看到的是什么？有人还会为计算机的未来恐惧得全身打颤吗？智者的预言失效，这不是第一次。

对于今天的AI发展阶段，著名华裔女科学家李飞飞2017年5月在谷歌 I/O 2017 大会上，曾经有形象的描述。她认为，过去的 60 年，可以称为“in-vitro AI”，或者“AI in vitro”（in vitro即试管内、生物活体外）阶段。这一阶段为AI研究的基础问题以及众多子学科打下了基石。后者包括机器人、计算机视觉、自然语言处理、语音处理、生物保护学等等。这同样是一个研究人员们不断理解数据、寻找工具集的过程。

李飞飞说，2010年左右是一个分水岭。这时，三个不同领域的进步终于达到了一个前所未有的里程碑高度：统计机器学习领域工具的成熟、互联网和传感器带来的大数据、摩尔定律预测的硬件计算性能提升。这三者的合力，把AI从“in vitro”阶段，推上了一个被称为“in vivo”（in vivo即生物活体内，也可以理解为胚胎阶段）的全新阶段。

“AI in vivo”，是一个AI技术向世界做出实际贡献的阶段。当下这个时间点，还仅仅只是个开头。在李飞飞眼里，这是一个历史性的时刻：AI终于开始发挥现实影响力，改造无数个行业。

李飞飞强调：一切刚刚开始。现在AI领域的工具和革命性技术，仅仅是广袤海洋中的几滴水。剩下的可探索空间，即我们能借助AI实现的事情，几乎是无限的，再怎么夸大也不为过。对此，如果为此感到兴奋激动，或许是应该的——有许多工作等着我们去做，来实现“AI in vivo”。

李飞飞的上述描述非常准确和精彩。如果把AI比作试管婴儿，已经经历了60年漫长试管阶段，而放入人类社会这一巨大的生物体内成长的胚胎阶段才刚开始。这时的AI具有蓬勃生长的无限活力，但目前还只是充满希望的胚胎。

AI专家们比较一致的观点是，今天的AI在感知和认知方面已经取得了长足的进步，常常超过人类智能。而在情感和自主意识方面，AI与人类智能还有非常大的差距，甚至可以说还存在鸿沟。

机器智能和人类智能的这道鸿沟，能不能填平和什么时候填平，也是人类长久探讨的问题。