细思极恐！我们真正的麻烦来了

据媒体最新披露：几天前，在 Facebook 的人工智能实验室里，出现令人震惊的一幕：

两台智能机器人突然摆脱了人类的控制，开始用自创语言对话，全然无视程序员下达的指令。由于情况失控，研究人员只得终止人工智能系统的全部活动。

据新华社昨天的新闻通稿， Facebook 事后公布了聊天机器人“鲍勃”和“爱丽丝”的对话节选（直译）。

鲍勃说：“我能能我我所有事其他。”

爱丽丝说：“球（复数）有零对我对我对我对我对我对我对我对我对。”

报道称，研究人员起初对机器人用自创语言聊天一事感到困惑，但之后他们发现，机器人其实是在用一种更复杂的方式来处理手头任务。

Facebook 的人工智能研究人员杜鲁夫·巴特拉认为，就像有时人们会“抄近道”用行话对话、以便快速解决问题一样，人工智能机器人也会自创语言，做类似的事。

这的确是一件细思极恐的事件，向我们揭示了未来人工智能可能存在的巨大风险。

以前，这种场面我们只在好莱坞大片里看到过——机器人通过自我学习，摆脱了人类控制，开始统治地球、奴役人类。人类则被打入万劫不复的深渊，被自己创造出来的怪物所统治。

反映人工智能前景的科幻短片《崛起》

在 2017 年的这个 7 月之前，我们看到的人工智能都是严格被人类控制的，按照人类预期的方式运作。 但随着科技的进步，机器人竟然开始自创预言，这的确是令人非常震撼的。

那么，当未来机器人的拥有自我学习、沟通、进化能力之后，他们会不会产生类似人类的复杂感情，也会有尊严、悔恨、嫉妒和复仇？如果有，那么机器人的确能干出人类意想不到、难以控制的事情。

就在此次 Facebook 关闭人工智能实验室之前， Facebook 的老板扎克伯克还跟特斯拉和 SpaceX 的老板埃隆·马斯克发生过一场辩论，扎克伯格认为人工智能是美好的、值得期待的， 而全球公认的科技奇才埃隆·马斯克则认为人工智能是人类文明的威胁。

现在，扎克伯克被自己的实验室“打脸”了！

即便在人工智能方面存在巨大的分歧，但无人能阻挡这个时代的快速到来。百度在被阿里、腾讯甩开之后，已经拼全力豪赌人工智能。

中国官方也在 7 月 8 日发布了《新一代人工智能发展规划》，在这个规划，有这样一些表述值得我们高度关注：

1 、人工智能发展进入新阶段……呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。

2 、人工智能是引领未来的战略性技术，世界主要发达国家把发展人工智能作为提升国家竞争力、 维护国家安全的重大战略 ，加紧出台规划和政策。

3 、人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题， 将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。

也就说，以后的战争可能是机器人之间的战争。

以后的婚姻，可能是人和机器人之间的婚姻，人类还能顺利繁衍吗？

以后的主要工作岗位，可能实现机器人对人的替代……

到了那个时代，机器人要不要有国籍、民族、宗教和家庭的身份？