近日，Facebook人工智能研究小组研发的聊天机器人Bob和Alice突然火了——原本用来和人聊天的两个AI不仅自主地开始互相聊天，还创造了只有它们互相明白的“语言”。Facebook也暂时关闭了研发项目。人们不禁担忧，这是不是一个预兆，昭示着人类最终会如科幻片里一样，毁灭在“人工智能”手中？
人工智能自创语言，也就是一件普通事
▲Bob和Alice的对话。Bob：“我能我我其他一切。”Alice：“球是零对我来说对我来说我对我来说对我来说对。”
从上图可以看到，Bob和Alice之间的对话，仍然使用英语单词，只是完全没有遵守英语语序。
也就是说，它们不是自创了语言，而是“太蠢”没有学会好好地说英语。
其实，聊天机器人“自创语言”已经不是第一次发生了。Facebook人工智能研究院（Fair）为了训练一个能像人类一样谈判的聊天机器人，研发了一个游戏，让2个聊天机器人不停谈判，就像打怪升级一样来提高水平。
机器人确实按照程序设定进行，但在这个过程中，研究人员发现它们之间的交流并不全是英语，而是研发出了一种新的交流方式。像代数中用x代替数字一样，它们开始用一些奇怪的字母组合代替原本的英语单词。比如说，用“iii”代替“want”或者“orange”。
这种语言的诞生并没有那么可怕。人类和人工智能思维本来就是不同的。原本就不会说英语的两个机器人只是找到了更快捷的“语言”。毕竟对AI来说，“苹果”只是一长串描绘苹果的颜色、写法以及其他水果关系的“代码”。它们语序混乱的对话乍一看让人摸不到头脑，但我们可以完全可以通过反推，明白它的“思考”过程。
▲AI研究人员此前获得突破性进展，可以根据机器做出的结果，再反推出做出决定的整个过程。有时候我们不能理解机器，不是因为它想杀了人类，而是弄懂各种延伸的代码很难。
正如Facebook研究人员Dhrub Batra所说，对话系统出现故障的原因是因为“没有针对英语语言的奖励机制”。这一奖励机制正是研究人员用来规范机器自主学习方向，获得想要的深度学习结果的手段。Facebook原本想要一个说英语的AI，没想到它偷懒跑偏。Facebook只能关闭程序，重新将“运用标准英语语法”写进编程，让它们真的开始“说”英语。
被自创语言唬住，还怎么面对AI的“谎言”
如此看来，Facebook的两个聊天机器的聊天，就是为了想要的东西而讨价还价的过程。
但实际上，比起“自创语言”， AI在这个过程中学会了“说谎”更加值得关注。
正如上文所说，研究人员为了训练AI像人类一样谈判而设置了一个游戏：分配2本书、1顶帽子和3个球。这3样物品在双方心中的价值各不相同。如果一方能通过谈判拿下高价值物品，就能获得奖励。最终目的，是为了让机器人理解这些物品对自己的价值，进而去和对方谈判。按照设定，双方想要的东西不会相同，且必须得出结果。就像下图一样：
▲You：“我想要帽子和球。”Follow：“我也想要帽子，但我可以让给你书。”You：“我不要书，你可以拿走书和1个球。”Follow：“2个”You：“可以，成交。”(对You来说，帽子价值最高）
为此，研究人员找来5808段人类对话，让AI进行学习和模仿。然而，AI不仅学会了如何表达自己的需求，还学会了“智能行为”——通过“说谎”进行谈判。与其直接说出它想要的物品，AI会先假装自己对另一个低价值物品感兴趣，只为了稍后“假意让步”换来真正想要的物品。
▲根据人类对话，AI会模拟不同的可能性。
Batra表示，AI学会谈判技能因为它们发现这一战略是有效的，能帮它们拿到游戏奖励。这证明，人工智能是可以像人一样，学会智能思考和谈判能力。在很多次评估中，实验者甚至不能分辨和TA谈判的是真人还是AI。假以时日，当AI技术成熟，它可以具备推理、分析、谈判的能力，成为私人秘书、网络小助手或是谈判智囊团，而不是简单地对指令做出反应。到那时，被AI“小把戏”骗到的，也许就是屏幕前的你。
👇点击下图订阅季度杂志即可获赠小奥汀水性指彩小惊喜系列5瓶套装（价值158元）
