物理学家斯蒂芬·霍金在接受英国《泰晤士报》采访时反复重申：人工智能在给人类带来各种可能性的同时，也带来了风险和威胁。他认为，世界政府是解决人工智能和其他全球挑战的途径之一。
霍金对人工智能的态度可谓爱恨交加：他无疑是人工智能的拥趸之一；但他也曾毫无保留地指出，人工智能会给人类带来一些挑战。在最近的一次采访中，他旧调重弹，并提供了一种让保守人士很难接受的解决方案。
3月7日，75岁的霍金凭借在理论物理和宇宙学领域的突出成就荣膺“伦敦自由荣誉奖”，这是伦敦市政府颁发的最高荣誉。颁奖结束后，霍金在接受《泰晤士报》采访时表示，他对未来很乐观，但他也对人工智能和其他全球性威胁深感忧虑。他给出的答案是：国际行动，可能的话，世界政府。
霍金说：“我们应该快马加鞭‘揪出’此类威胁，并在它们变得失控之前采取行动。这可能意味着某种形式的世界政府。”
然而，他也警告称，世界政府这样一种解决方案“可能会演变成一种专横的暴政”。随着人工智能在现代社会中发挥的作用与日俱增，计算机科学家和政策制定者们的工作也从构建这样的系统,转变到利用其强大能力为社会大众谋福祉。尽管观察人士对人工智能的某些认识大相径庭，但他们也达成了一个广泛认可的共识：人工智能带来的负面影响需要被解决，或许世界政府能提供一种解决方案。
英国牛津大学的教授Nick Bostrom 对此心有戚戚焉，他在发给《基督教科学箴言报》的邮件中表示：“是的，我认为不断改善的世界治理不可或缺，它不仅可以应对日益精进的人工智能，也能解决横亘在人类面前的其他大型挑战。”
Nick Bostrom是牛津大学人类未来实验室的创办负责人，他说：“尽管我们能够持续不断地研制出各种功能更强大的工具，但我不确定我们能作为一个分裂的世界无期限地存活下去。”
今天，人工智能似乎无所不在。它隐藏在自动驾驶汽车背后；它让Facebook的广告筛选过程变得更强大；它通过Apple的Siri和Amazon的Alexa等虚拟助手与人相互交流。在纽约城，它能预测火灾；在英国，人们部署机器学习来偿还债务。霍金以前曾指出，最终，人工智能甚至能消除疾病和贫穷等社会顽疾。
但观察人士称，独特的机会伴随着独特的问题。有人担心，在一个全部由机器支配的社会，经济可能面临极大的挑战。
普林斯顿大学计算机科学和公共事务教授Edward Felten 在接受《基督教科学箴言报》书面采访时解释称：“有两大经济风险——首先，工人现有的技能和未来的工作场合需要的技能可能不匹配；其次，人工智能会增加资本所有者和更高技能工人的回报，从而加剧经济不平等。” Edward Felten也是普林斯顿大学信息技术政策中心（Center for InformationTechnology Policy）的创办负责人。
他认为，可以通过采用好的公共政策来解决这些问题，这些公共政策能对生产力提高带来的好处进行分配。
然而，霍金的言外之意是：他担心人工智能会变得超级强大并采用人类无法控制的方式行动。不过并非所有人都确信，科幻小说中描写的独断专行的机器一定会出现。比如，Felten教授就表示，他并没有看到“计算机科学的发展足以让我们得出结论——机器智能会突然加速发展。”
而“未来今天研究所”（Future Today Institute）的创办者兼首席执行官Amy Webb对此则更为谨慎。她解释称，人工智能的目标之一是教会机器能在一个“无人监督的学习”系统中，自己理出头绪。这意味着我们需要信任机器，相信这些人工智能系统能做出正确的决定。她认为这种情况就好比一个学生在教室里学习数学。“但如果学生在学习的过程中，学到了不正确的答案：比如1+1=3，并且接着教下一群学生，错误的答案会不断扩散，影响其他决定，所谓牵一发而动全身，结局会如何？”
而且，数学课出现的错误与人工智能系统造成的风险不可同日而语，因为我们赋予了人工智能很多重任：比如进行身份识别、为人们的安全保驾护航、部署武器，等等。”
Bostrom将人工智能现在面临的问题看成是“一种可升级的控制：如何确保人工智能与其程序开发者的意图保持一致”。
这些受访者表示，有现在尽管微小但不断发展壮大的研究领域在尝试解决这些问题，世界政府或人工智能法律的国际统一也不失为一种方法。Bostrom表示，尽管他不认为“全球事务领域近期会出现任何转变”，但政治聚集的下一阶段可能就是世界政府。
Bostrom 说：“人类的社会治理方式在不断发生变化，从狩猎带到酋邦再到单一民族国家直到目前的国家和国际组织相互交织。再前进一步，我们就到了世界政府。”
尽管Webb女士也同意国际合作意义重大，但她怀疑这一情况是否会尽快到来，足以解决这些迫在眉睫的问题。
Webb 指出：“如果全球各国在人工智能的标准和用途方面达成一致意见，这不啻为好事一件。但现实情况是，此刻，我们甚至不能就气候变化达成单边协议，因此，国际政府之间的合作跟上人工智能发展的步伐还有待时日。”
技术政策研究所（Technology Policy Institute）的负责人兼资深研究员ScottWallsten说，随着人工智能变得无孔不入，政府决定可能也会受到人类行为无法预期的变化的影响。
Wallsten 博士反问道：“基于人工智的更安全的汽车会使人们更鲁莽地行动，比如闯红灯——如果他们相信汽车能自动停止的话，会这样吗？”
编辑：朱颜
《麻省理工科技评论》中美合作“城郭会员计划”正式发布，让您始终处于新兴技术商业趋势的最前沿。详情请点击下方图片查看↓↓↓
招聘
编辑、视觉设计、视频策划及后期
地点：北京
联系：[email protected]
MIT Technology Review 中国唯一版权合作方，任何机构及个人未经许可，不得擅自转载及翻译。
分享至朋友圈才是义举
