正文
摘要：
归根结底，如果不是非专业报道瞎起哄般的热炒，这件一个月前的旧闻根本没人会觉得有趣。
我想你们大概都知道 Facebook 一个 AI 项目失控被迫关闭的事了。据外媒报道，Facebook 于 6 月开始测试的 AI 系统出现了问题，两个智能对话机器人在对话时开发出了「人类不理解的语言」，目前这个项目已经被 Facebook 自己关闭了，其官方解释说研究人员「希望 AI 与人沟通，而不是相互沟通。」
但是 Facebook 关闭该项目的新闻
已经曝出半个多月了
，而其 AI 聊天机器人「创造一种人类无法理解的语言」这事更是
六月的旧闻
了。为什么这件事现在又火起来了呢？
原因可能是 Facebook 的创始人马克·扎克伯格刚刚与埃隆·马斯克就 AI 威胁论的问题隔空吵了个架，余热尚在，Facebook 被迫关闭「失控」的 AI 项目绝对是一波「打脸」的好戏码，于是我们就看到一波鼓吹 AI 威胁论的声音此起彼伏。
有关该事件的外媒报道
但我们在看了许多外媒文章之后发现，他们并没有对此事追根溯源，从一开始，他们就把 AI 之间语法不通的英语句子看做了一种全新的语言，而 Facebook 的两个聊天机器人 Bob 和 Alice 使用的依然是英语单词，只是语法上没有任何意义而已。
Bob:「I can can I I everything else."
Alice:「Balls have zero to me to me to me to me to me to me to me to me to."
翻译过来是：
Bob：「我能能我我所有其他事。」
Alice：「球没有对我对我对我对我对我对我对我对我对。」
这怎么看都是英语没学好啊。
Bob 和 Alice 的对话截图；图源：Fast Co.Design
对于这件事，人工智能公司 iPIN 的创始人杨洋表示，其实这种机器乱语的情况早就有了先例，Google 的聊天机器人就出现过这种状况，「
说是新的语言太勉强，反而是将文字符号化，高阶语言降为低阶语言，或者说机器语言。
」
「自创语言」的来龙去脉
6 月的时候，Facebook 人工智能实验室发表了一篇文章，介绍了他们如何教 AI 与人类进行谈判，他们希望训练机器人不仅仅是在表面上模仿人类，而是真正的像人类一样处理事情。
在这个项目上 Facebook 取得了一定的研究成果，他们的机器人在与人进行谈判时，人类甚至无法区分出对面的是机器还是人类。
但后来情况发生了变化。
Bob 和 Alice 之间的对话出现了上述那种语法不通的句子，据 Facebook 人工智能实验室的研究人员 Dhruv Batra 所说，对话系统出现故障的原因是因为「
没有针对英语语言的奖励机制
」。此前我们报道过，深度学习技术的一个延伸——
加强学习
（Reinforcement Learning）中，技术人员可以通过设立奖励机制来规范机器自学习的方向，从而得到开发者更想要的深度学习结果，比如去年 AlphaGo 在升级的过程中就使用了这样的技术，再比如在这个事件里，据 Dhruv 的说法，如果研究人员在系统中编写针对英语语法的奖励机制，系统就会偏向于更符合英语语法的语言，也就不会出现现在的情况。
我们就此事采访了 AI 平台公司三角兽科技的创始人马宇驰先生，他认为「这应该是一个小题大做的事情，
在模型训练不完善的时候对话，会有类似的情形，理解成没完成的训练工作也许更合适。
」
另外一边 iPIN 的创始人杨洋也持有类似的观点：「任何对话，加上 GAN（生成对抗网络），再做一些语言价值预设作为反馈逻辑，很容易出现这种情况。其实用 GAN 来训练机器人编程，本来就是这么个思路。」
说到底，这就是个技术失误，所谓「英语是一个非常复杂且难懂的语言，对机器学习来说不是很适合」，听起来非常危言耸听，好像 AI 像科幻电影里一样，已经开始「淘汰人类」了，但事实是，机器只是机器，他们不过是设定好的程序，你见过哪个程序员用英语写程序的？
这一点是各类鼓吹 AI 真的发明了一种语言这种说辞的的文章没有提到的。
项目关闭原因有待证实
谈到 Facebook 关闭该项目的原因，马宇驰先生的态度非常明确：「
Facebook 关闭 AI 项目的原因不可能是这种
，应该是外面杜撰出来的」，报道中出现的问题「
修复重置等等都可以（解决）
」。
