专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
目录
相关文章推荐
宝玉xp  ·  Google 的 Gemini 2.0 ... ·  昨天  
人工智能那点事  ·  一店铺未按要求彻夜亮灯被撬锁开灯?多方回应! ·  昨天  
爱可可-爱生活  ·  【Let's Build a Simple ... ·  昨天  
爱可可-爱生活  ·  分量十足:根本吃不完 ... ·  2 天前  
51好读  ›  专栏  ›  新智元

Hinton发2024末日预警:10年内人类灭绝!奥特曼预言18个月ASI降临

新智元  · 公众号  · AI  · 2024-12-30 12:31

正文



新智元报道

编辑: Aeneas 桃子
【新智元导读】 2024年终,AI大佬们纷纷发出预测。奥特曼表示,ASI将很快到来,18个月后,我们或许就将见证奇迹。LeCun表示,AGI两年内不会到来。但Hinton则认为,AI很可能在10年内,就会让人类灭绝!

2024年,注定是AI历史上浓墨重彩的一年。

站在2024年的尾声,各位大佬也给出了自己对于未来的预测。

OpenAI CEO奥特曼看来,我们即将迎接超级智能的到来,而且很快了!2026年夏天,我们或许就会见证奇迹的出现。

Meta首席AI科学家、图灵三巨头之一的LeCun,跟奥特曼对此意见不同,他强调,AGI在未来两年内不会发生。

获得今年诺奖的人工智能教父Hinton则坚信,AI的进步会很快,但已经到了一个可怕的地步——

10年内,AI可能会导致人类的灭亡!

奥特曼:ASI即将到来,想象18个月后


在圣诞节前夕,外媒记者Bari Weiss采访了OpenAI CEO奥特曼。

在他看来,超级人工智能ASI,已经离我们很近了!

奥特曼让我们想象一下,18个月后,2026年夏天即将到来时,AI会是什么样子?

ASI会如何出现?

在今年9月, 奥特曼罕见地发出长文预言:深度学习已经奏效了,ASI即将在几千天内降临

奥特曼强调,我们必须关注科学进步的速度,它不会改变人类深层的基本驱动力,但我们生存的世界将会发生很大的变化。

在他看来,有AI帮我们干活,人类就可以从工作的繁重负担中解放出来,尽情娱乐和游戏了!

人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会,我们将回到一个不断扩张的世界,处于一种正和博弈。

正和博弈是指总收益大于总损失,所有参与者都获得净收益的情况

奥特曼认为,我们今天从事的许多工作,在几百年前的人们眼中可能显得微不足道,甚至是浪费时间。

但没有人会回头怀念过去,渴望自己成为一名点灯人。

如果一个点灯人能够看到今天的世界,他会觉得眼前的繁荣完全超乎想象。

而如果我们能够快进到一百年后的未来,那时围绕人类的繁荣,同样会让我们难以想象。

奥特曼预测到来,ASI将引发10倍的科学AI突破,每一年的革命性都会像十年一样

当被问到,如何衡量我们世界中AI的总体影响时,奥特曼回答说,这些AI产品被人们快速采用,吸引更广泛的受众的过程,已经令人印象深刻。

我从未见过,一项技术能如此迅速地被大规模使用。

那么,奥特曼本人是怎样使用AI的呢?

他表示,自己早已将默认搜索改成了ChatGPT。

他经常用ChatGPT从网络上获取实时信息,而不是依赖过去那种传统的超链接流程——如今看来,那种方式简直像蜗牛爬行一样缓慢。

所以这种方式仍然被称为「搜索」吗?奥特曼说,自己仍称之为搜索,不过年轻人们会这样描述:我刚刚「聊」出了这个信息。

Hinton:AI可能会在10年内让人类灭绝


今年刚获得诺贝尔物理学奖、77岁高龄的Hinton同样认为,AI技术的发展速度比自己预期的要快很多。

这让他感到恐惧,并且发出警告:AI可能会在10年内,让人类灭绝。

作为深度学习之父,Hinton对自己在创造这项技术中所扮演的角色表示遗憾。

AI的迅疾发展已经如同一次全新的工业革命,但不同的是,这次,机器可能会掌控一切。

因此,政府务必加强对AI公司的监管。

此前,Hinton曾预测,AI有10%的可能性,会在30年内导致人类的灭亡。

而最近,他的说法又提前了。

在BBC广播4台的《今日》节目中,主持人问Hinton他的看法是否有所改变。

Hinton再次强调说没有。甚至他表示,AI让人类灭绝的时间可能是10到20年,因为,我们从未遇到过比我们更聪明的事物。

「你知道多少例子,是由不聪明的一方控制更聪明的一方?少之又少」。

人类是3岁孩童,AI是成年人


1972年,Hinton在爱丁堡大学首次开始研究神经网络。当时少有研究者相信,神经网络可以通过分析数据来学习技能。

在20世纪80年代,他发明了可以自主查找数据属性、识别图片中特定元素的方法,奠定了现代人工智能的基础。

2012年,Hinton和两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络,可以分析数千张照片,并自学识别花、狗和汽车等常见物体。

但现在,AI技术的发展已经远比他预期的快得多。导致的后果就是,人类如今只是3岁孩童,但AI却已经长成了成年人。

Hinton表示,这就像工业革命一样。

在工业革命中,人类的体力不重要了,因为机器更强大——如果你想挖一条沟,用机器就可以了。

如今的AI,已经在取代人类智能。最前沿的不再是普通的人类智能,而是机器。

狄更斯式的变化


「现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿,而是机器将成为前沿。」

Hinton预测,AI将极大地改变普通人的生活,就像查尔斯·狄更斯所记载的工业革命一样。

而AI将如何走向,很大程度上取决于我们的政治制度会如同利用这项技术。

而Hinton担心的是,尽管AI会带来生产力的大幅提高,但所有好处都会流向富人,很多人会因为失业而变得更加贫穷,最终这对社会就是不利的。

在工业革命中,机器没有机会仅仅因为自己更强大而取代人类,因为我们有智能,所以事情仍在掌控之中。

但现在,情况已经不同了,AI很可能会掌握一切。

而对领域内其他知识渊博的专家对AI未来的乐观看法,Hinton表示,希望他们是正确的。

政府必须监管


然而,Hinton补充道:我担心,这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力,并不足以确保他们安全地开发这些技术。

唯一能迫使这些大公司在安全方面进行更多研究的,就是政府监管。

Hinton呼吁,政府必须在这方面担起责任。

此前Hinton就表示,自己痛悔向世界介绍AI

「后悔有两种。有时候,你会因为做了一些你知道不应该做的事情而感到内疚、后悔;还有一种,是你在同样情况下还会做一样的选择,但最终结果可能并不好。」

「我的后悔属于第二种。在同样的情况下,我会再次做同样的事情,但我担心这样做的后果,就是比我们更智能的系统最终会占据控制权。」

毕竟此前,我们从未经历过拥有比我们更聪明的东西,是什么感觉。

纳德拉:OpenAI已成为巨头


在与知名投资人Bill Gurley和Brad Gerstner深度对话中,纳德拉分享了自己对OpenAI独到的见解。

他表示,「从某种意义上,OpenAI就是这个时代的谷歌、微软或Meta」。

这番话暗示着,OpenAI可能会像这些科技巨头定义了此前几代计算技术一样,塑造了AI领域的格局。

显而易见的是,微软与OpenAI的早期合作,为其在AI竞赛中带来的巨大的优势。

纳德拉称,「我们基本上获得了两年的领跑期,不过这样领先优势可能不会再出现了」。

这种战略合作已经开始显现成效,包括Shopify、Stripe和Spotify等大型云客户,已经从AWS或谷歌转战微软阵营。

而OpenAI本身,也早已成为了微软云服务的重要客户。

AI无限复制,取代人类在即


o3发布之后,Quora联创Adam D'Angelo曾表示,「令人疯狂的是,o3的测试结果已经公开了,但市场仍然没有将AGI的可能性计入定价之中」。

对此,马斯克回应道,「市场声称会向前看,但实际上只是关注过去。AI最终会让金钱变得毫无意义」。

马斯克的这句话在全网掀起了巨大风暴。AGI时代,金钱真的不再重要了吗?

最近,AI圈大佬Rudolf发表了一篇文章对此做出了回应:

默认情况下,AGI之后,资本比以往任何时候都重要。







请到「今天看啥」查看全文