【新智元导读】
2024年终,AI大佬们纷纷发出预测。奥特曼表示,ASI将很快到来,18个月后,我们或许就将见证奇迹。LeCun表示,AGI两年内不会到来。但Hinton则认为,AI很可能在10年内,就会让人类灭绝!
2024年,注定是AI历史上浓墨重彩的一年。
站在2024年的尾声,各位大佬也给出了自己对于未来的预测。
OpenAI CEO奥特曼看来,我们即将迎接超级智能的到来,而且很快了!2026年夏天,我们或许就会见证奇迹的出现。
Meta首席AI科学家、图灵三巨头之一的LeCun,跟奥特曼对此意见不同,他强调,AGI在未来两年内不会发生。
获得今年诺奖的人工智能教父Hinton则坚信,AI的进步会很快,但已经到了一个可怕的地步——
10年内,AI可能会导致人类的灭亡!
在圣诞节前夕,外媒记者Bari Weiss采访了OpenAI CEO奥特曼。
在他看来,超级人工智能ASI,已经离我们很近了!
奥特曼让我们想象一下,18个月后,2026年夏天即将到来时,AI会是什么样子?
ASI会如何出现?
在今年9月,
奥特曼罕见地发出长文预言:深度学习已经奏效了,ASI即将在几千天内降临
。
奥特曼强调,我们必须关注科学进步的速度,它不会改变人类深层的基本驱动力,但我们生存的世界将会发生很大的变化。
在他看来,有AI帮我们干活,人类就可以从工作的繁重负担中解放出来,尽情娱乐和游戏了!
人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会,我们将回到一个不断扩张的世界,处于一种正和博弈。
正和博弈是指总收益大于总损失,所有参与者都获得净收益的情况
奥特曼认为,我们今天从事的许多工作,在几百年前的人们眼中可能显得微不足道,甚至是浪费时间。
但没有人会回头怀念过去,渴望自己成为一名点灯人。
如果一个点灯人能够看到今天的世界,他会觉得眼前的繁荣完全超乎想象。
而如果我们能够快进到一百年后的未来,那时围绕人类的繁荣,同样会让我们难以想象。
奥特曼预测到来,ASI将引发10倍的科学AI突破,每一年的革命性都会像十年一样
当被问到,如何衡量我们世界中AI的总体影响时,奥特曼回答说,这些AI产品被人们快速采用,吸引更广泛的受众的过程,已经令人印象深刻。
我从未见过,一项技术能如此迅速地被大规模使用。
那么,奥特曼本人是怎样使用AI的呢?
他表示,自己早已将默认搜索改成了ChatGPT。
他经常用ChatGPT从网络上获取实时信息,而不是依赖过去那种传统的超链接流程——如今看来,那种方式简直像蜗牛爬行一样缓慢。
所以这种方式仍然被称为「搜索」吗?奥特曼说,自己仍称之为搜索,不过年轻人们会这样描述:我刚刚「聊」出了这个信息。
今年刚获得诺贝尔物理学奖、77岁高龄的Hinton同样认为,AI技术的发展速度比自己预期的要快很多。
这让他感到恐惧,并且发出警告:AI可能会在10年内,让人类灭绝。
作为深度学习之父,Hinton对自己在创造这项技术中所扮演的角色表示遗憾。
AI的迅疾发展已经如同一次全新的工业革命,但不同的是,这次,机器可能会掌控一切。
因此,政府务必加强对AI公司的监管。
此前,Hinton曾预测,AI有10%的可能性,会在30年内导致人类的灭亡。
而最近,他的说法又提前了。
在BBC广播4台的《今日》节目中,主持人问Hinton他的看法是否有所改变。
Hinton再次强调说没有。甚至他表示,AI让人类灭绝的时间可能是10到20年,因为,我们从未遇到过比我们更聪明的事物。
「你知道多少例子,是由不聪明的一方控制更聪明的一方?少之又少」。
人类是3岁孩童,AI是成年人
1972年,Hinton在爱丁堡大学首次开始研究神经网络。当时少有研究者相信,神经网络可以通过分析数据来学习技能。
在20世纪80年代,他发明了可以自主查找数据属性、识别图片中特定元素的方法,奠定了现代人工智能的基础。
2012年,Hinton和两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络,可以分析数千张照片,并自学识别花、狗和汽车等常见物体。
但现在,AI技术的发展已经远比他预期的快得多。导致的后果就是,人类如今只是3岁孩童,但AI却已经长成了成年人。
Hinton表示,这就像工业革命一样。
在工业革命中,人类的体力不重要了,因为机器更强大——如果你想挖一条沟,用机器就可以了。
如今的AI,已经在取代人类智能。最前沿的不再是普通的人类智能,而是机器。
狄更斯式的变化
「现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿,而是机器将成为前沿。」
Hinton预测,AI将极大地改变普通人的生活,就像查尔斯·狄更斯所记载的工业革命一样。
而AI将如何走向,很大程度上取决于我们的政治制度会如同利用这项技术。
而Hinton担心的是,尽管AI会带来生产力的大幅提高,但所有好处都会流向富人,很多人会因为失业而变得更加贫穷,最终这对社会就是不利的。
在工业革命中,机器没有机会仅仅因为自己更强大而取代人类,因为我们有智能,所以事情仍在掌控之中。
但现在,情况已经不同了,AI很可能会掌握一切。
而对领域内其他知识渊博的专家对AI未来的乐观看法,Hinton表示,希望他们是正确的。
然而,Hinton补充道:我担心,这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力,并不足以确保他们安全地开发这些技术。
唯一能迫使这些大公司在安全方面进行更多研究的,就是政府监管。
Hinton呼吁,政府必须在这方面担起责任。
此前Hinton就表示,自己痛悔向世界介绍AI
。
「后悔有两种。有时候,你会因为做了一些你知道不应该做的事情而感到内疚、后悔;还有一种,是你在同样情况下还会做一样的选择,但最终结果可能并不好。」
「我的后悔属于第二种。在同样的情况下,我会再次做同样的事情,但我担心这样做的后果,就是比我们更智能的系统最终会占据控制权。」
毕竟此前,我们从未经历过拥有比我们更聪明的东西,是什么感觉。
在与知名投资人Bill Gurley和Brad Gerstner深度对话中,纳德拉分享了自己对OpenAI独到的见解。
他表示,「从某种意义上,OpenAI就是这个时代的谷歌、微软或Meta」。
这番话暗示着,OpenAI可能会像这些科技巨头定义了此前几代计算技术一样,塑造了AI领域的格局。
显而易见的是,微软与OpenAI的早期合作,为其在AI竞赛中带来的巨大的优势。
纳德拉称,「我们基本上获得了两年的领跑期,不过这样领先优势可能不会再出现了」。
这种战略合作已经开始显现成效,包括Shopify、Stripe和Spotify等大型云客户,已经从AWS或谷歌转战微软阵营。
而OpenAI本身,也早已成为了微软云服务的重要客户。
o3发布之后,Quora联创Adam D'Angelo曾表示,「令人疯狂的是,o3的测试结果已经公开了,但市场仍然没有将AGI的可能性计入定价之中」。
对此,马斯克回应道,「市场声称会向前看,但实际上只是关注过去。AI最终会让金钱变得毫无意义」。
马斯克的这句话在全网掀起了巨大风暴。AGI时代,金钱真的不再重要了吗?
最近,AI圈大佬Rudolf发表了一篇文章对此做出了回应:
默认情况下,AGI之后,资本比以往任何时候都重要。