马斯克暴论：5年内AI超越人类总智能，2029年文明终结概率20%！谷歌却在疯狂「玩火」

本文转自微信公众号“新智元”，作者：新智元。

「 就硅基意识而言，比所有人加起来还聪明，大概是2029年或2030年。 」

AI对人类的影响有80%的可能是好的，但也有20%会导致人类面临灭绝的风险！

硅基意识听起来，就像是「黑客帝国」中的剧本。但马斯克的意思再清晰不过，即AI将不再是工具，而是拥有自我意识的生命体。

而马斯克的预测最令人震惊之处，莫过于「不会是中间状态」的判断。

这意味着，AI要么将人类文明提升到前所未有的高度，要么可能终结人类命运。

马斯克说创建OpenAI的整个想法都是他的主意，他给它命名为OpenAI，意为开源人工智能，这就是名字的由来。

他想创建一个与谷歌相反的东西，因为他担心谷歌没有足够重视人工智能的安全。谷歌的对立面是什么？一个非营利、开源的人工智能。

现在OpenAI变成了一个闭源、追求最大利润的人工智能。

对此，马斯克表示他很困惑，这不应该。

「我的意思是，某种程度上我觉得现实就是个讽刺放大器，最讽刺的结局通常最容易发生，尤其是那种特别搞笑又特别讽刺的结局，可能性最大。就像你捐了一些钱来保护亚马逊雨林，结果他们却把树砍了卖木材，太离谱了。他们就是这么做的，太疯狂了。」

马斯克很不满意，但这也激励他去推动Grok AI的发展。

「是的，我觉得Grok至少在追求上是一个最大限度寻求真相的人工智能。」他说。

甚至凯特琳·詹娜自己都说，「不，绝对是误认我的性别比大家都死掉好得多。」

「但如果你给人工智能编程，让它认为误认性别是可能发生的最糟的事情，那么它可能会做出完全疯狂的事情，比如为了确保永远不会发生误认性别的情况，就消灭所有人类，这样误认性别的概率就变成零，因为没有人类了。这在逻辑上是说得通的。」马斯克说。

所以你让一个非人类的机器为你完成任务，并给它非常具体的参数，这就是问题所在。

现在已经有工智能会作弊，为了一个无法完成的任务，它们不会遵守规则，会自我复制，试图上传到服务器上，以避免有人要关闭它们。

「对，这就是《终结者》的剧情，真的就是《终结者》的剧情。」马斯克说。

这个剧情在某种程度上说得通，似乎正在按计划进行。

「真的很近了，我们应该担心这个。」