让AI“创造了语言”的Facebook研究员怒怼媒体报道“不负责任”

量子位 · 公众号 · AI · 2017-08-02 13:10

正文

安妮编译整理
量子位出品 | 公众号 QbitAI

这两天又闹的沸沸扬扬的Facebook的聊天机器人事件也该有个了结了。

前情提要，这场话剧的剧情分为三步走。

事件的起因是6月15日Facebook人工智能研究院（FAIR）的研究人员提供了关于对话型AI系统的开源代码，想让AI学会谈判协商，还在arXiv上发表了论文《Deal or Deal? End-to-End Learning for Negotiation Dialogues》。量子位之前对这件事情也进行了报道。

6天过后，FAIR里又传出一些奇怪的AI对话，两个智能体以人类无法理解的姿势进行着“i”和“to me”的循环。奇怪的是Facebook的数据表明这对智能体成功完成谈判。

△ 点击上段蓝字查看量子位之前报道

这两天事件又升了个温。据外媒报道，目前Facebook已经关闭了这个让AI智能体练习谈判的项目，研究人员表示，两个机器进行交流没有意义，他们希望AI能更多地与人类交流。

Facebook关闭项目重新吸引了媒体的注意。《伦敦太阳报》说：“机器人智能很危险：在facebook的AI创造了自己的语言后，专家发出了警告。”

可能觉得很多媒体对此事的报道言过其实了，本周一，参与了本项目的FAIR小组的研究人员Dhruv Batra在Facebook上发布了声明：

虽然AI智能体发明自己的语言可能会让外界感到惊讶，但它是AI的一个成熟的子领域，相关出版物可追溯到几十年前。
简单地说，智能体在尝试解决任务的环境中经常会发现不直观的方法最大限度地获取奖励。分析奖励函数、更改实验参数与“拔电源”、“关闭AI”完全不是一回事。按这种说法，每个AI科研人员在停掉机器上的某个任务时都“关闭”过AI。

Batra称某些媒体报道是“骗流量且不负责任”的。此外，谈判智能体从未在生产中使用，还只是一个研究实验。

FAIR的其他研究人员也怒怼了媒体的恐怖报道。

研究人员Edward在Twitter上对一篇报道表示不满，“难道你们就没有其他编辑可用了吗？？”