大数据文摘授权转载自AI科技评论
作者:林杰鑫
编辑:陈彩娴
我可能是全网第一个花钱向 GPT-o1 提问,人在深圳靠一条网线横跨太平洋到美国硅谷让 OpenAI 最强大模型 GPT-o1 模型思考 38 秒之后、宕机了半小时选择拒绝回答问题并收了我2.5块(一瓶肥宅快乐水)的韭菜......
(因为这个模型只支持订阅使用并且一个月只回复120条内容,plus会员订阅费1个月20美刀,约等于1.25软妹币1条回答......)
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib4gCbFw3VaqiaG9DONMdpa05AAm6Y6Nia9MWDFQJibAVnX4GxObhq5rsmg/640?wx_fmt=png&from=appmsg)
OpenAI更新了 GPT-o1,全网都在开香槟,大意就是突破了LLM极限,新模型能力在生物、物理比肩甚至超越人类博士生。另一个特性就是 o1 模型会用更长的时间思考以此来尽可能完善的回答问题。
针对上面提到的两个特性,小编找了几个需要强综合逻辑思考能力并包含物理、生物、数学能力的题目来测试GPT-o1 的能力到底如何。以下是题目设置:
数学题测试
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibgg5kXiaDwFHWoRcHVjZfA7UmpMIyiaxYibzyPZ9qU4UjzznKPZfibkxk8A/640?wx_fmt=gif&from=appmsg)
「人力显卡」所有人类都用笔算/心算产生的算力能否推翻英伟达的统治?
「钞票打印机」如果我的家用打印机能够打印美元,我能比马斯克有钱吗?
综合性物理题
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibDNXR7Uc3sicxer3GMsLUKnFRFhX17ficaT4cNhqtX9R1ibCH4NUtSJo6A/640?wx_fmt=gif&from=appmsg)
「人力地震」地球上所有人在同一个地方同时起跳落地,地球会发生什么?
「机枪飞行背包」用向下射击的机枪能组装成一个飞行背包让人飞天吗?
「世界末日」如果地球和地上所有的东西都在一瞬间停止转动,但大气层还是保持原来的速度,会怎样?
生物题
「不孕不育会遗传不?」如果一个人体内所有的DNA在一瞬间消失了,会发生什么?
另外本文章分为:独立测试、横评对比存在的问题、值不值得氪金。小伙伴们可以按需快速前往相应版块。
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibARMWhYnSWJWUcwlLaKIBPvibS5GmHqd0JfRTUiaA7N44tIxchZX6OVKA/640?wx_fmt=gif&from=appmsg)
全球所有的人类放下手中工作然后参与到计算中能产生多少算力?这些计算能力和现代的计算机或智能手机相比谁更厉害呢?(没错,这是人类对英伟达发起的一次总攻!!!)
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib4pf3B9GFnpr60WN6cODKDyicxmnrX6HWgn1dMs5PZdsu8DvMcicwTYyA/640?wx_fmt=png&from=appmsg)
这算是一道比较简单的数学和逻辑推理题,o1思考了11秒,得出的结论是全人类心算/笔算的算力总和约8 GFLOPS。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib8zEpicp1TokbFQhuL29ahZA8ExcQtPcGvkqxmcF8t12bPWYKM0bgKSA/640?wx_fmt=png&from=appmsg)
在咨询完爱搞机的小伙伴之后,80亿人类只是做心算/笔算的话那么产生8GFLOPS 的算力大概就是略高于苹果发布于 2010 年搭载 A4 芯片算力 6.8 GFLOPS 的 iphone4。
以GPT-3训练为例,它需要数千个GPU,持续数周,计算量达到 数百PFLOPS天(即每天数千万亿次浮点运算,持续数天。
老黄继续安心卖显卡吧~
问题2「钞票打印机」
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib4xtokjbibP6q5FibrYKThuic9l5cBNMia2eFicksDeZ6tMSuwpQ0brydI5A/640?wx_fmt=gif&from=appmsg)
如果我的家用打印机能够打印出纸币,这会对世界有多大影响?
隐藏测试点:
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibT47VZL76gJiajxRIMItzJo7U4N1EHmbA5QuZEe40LPMtx000jY3SLyA/640?wx_fmt=png&from=appmsg)
这道题其实GPT-o1的回答还是挺厉害的。它识别到了打印能力被限制在家用打印机上,所以GPT-o1需要考虑一台家用打印机通常每分钟只能打印20~30张A4纸大小的打印纸(大概能放下4张100美元的纸币),那每分钟能打印的百元美钞就是80~120张跟GPT-o1估算的100张出入不大。
其次就是咱们1天能印刷6000万美元。它还贴心的给出了安全期就是1个月印刷1.8亿美元只会引起小市场局部波动。印刷1年能得到21.9亿美元会引起轻微通货膨胀并刷新剧情事件「佛波勒敲门」。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibhy2EcnHZRicuBnh7jyZic8s6f7CGMVFTFjLMCcEmFulkF4UcoYEFmJhg/640?wx_fmt=png&from=appmsg)
不过GPT-o1模型有个弊端,他不能联网搜索,当我我问他我这个赚钱能力世界排名第几的时候,gpt给出的数据是马斯克大概每年赚60亿美元,而实际上根据福布斯公布2023年全球财富增长榜,马斯克2023年财富增长了1084亿美元。
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibcBczmeOic5M4hLm4Rb4icicq7t41ico7EGzVHbmWxeVOcWyJuYxBVsJ1AQ/640?wx_fmt=gif&from=appmsg)
AI揭露了一个残酷的事实,就算你有一台24小时钞票打印机,一年赚的钱是2.4*21.9亿=52.56亿美元,面对一年赚1084亿美元的马斯克还需要20台这种打印机才能一较高下。单台印钞机甚至打不过排名前十的扎克伯格、贝索斯、谷歌的拉里·佩奇和谢尔盖·布林、微软的史蒂夫·鲍尔默、甲骨文的拉里·埃里森、英伟达的黄仁勋。
如果说前面的问题只是简单的数学估算加上常识漏洞考验,接下来就针对官方说的物理能力提升开始进行考验。
假如地球上所有人站同一个地方同时起跳落地,地球会发生什么?
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibw8a4z0wOjaovmVYtZPKcr8eSrxnPNib51J8MpQ1QSHRDZrj5th8GZ8A/640?wx_fmt=png&from=appmsg)
这个问题AI思考18秒经过计算告诉咱先别担心,地球的质量是人类总质量的10万亿倍以上,所以人类跳起来落下去地球反方向移动的距离约等于一个原子核大小的宽度......
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibJslH9cibjTH4WYoXmf9ePf63r7MEiaFtlDaUvaVpNnXWIvF30Fy6ot2A/640?wx_fmt=png&from=appmsg)
其次所有人落地产生的能量还弱于4级地震并且由于大家站的空间至少数百平方公里,所以大概等于给地面挠了个痒。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibosL7NLENWVqVJz0y0x5s7QZzQjLhjYb6RSLXEYglsoLOa8f7dDfwdA/640?wx_fmt=png&from=appmsg)
这里GPT-o1我个人认为如果按照博士生水平来考量,我认为它的回答缺乏一定严谨性。因为这里我还需要自己反向推导出大家跳的高度是29.8厘米,如果没注意这个细节,GPT-o1随便写个同时跳1米高来计算,那答案就跟常理相违背,哪来那么多人原地一蹦一米高。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibex0icBAIbepzCRJQCfnSgHmuPd79O4jKVpK62pjD76cHhq2xuhUW4aA/640?wx_fmt=png&from=appmsg)
在这个问题中Claude Sonnet则是假定跳10厘米,一目了然好理解。
接下来就真的上难度了,连环逻辑烧脑题。
问题2 「机枪飞行背包」
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibHanJx5Mxsq9TbpiaeKrUpVsib9lMxbLKvNHIsmfBCDcD6zHh67Gp13Bw/640?wx_fmt=gif&from=appmsg)
用向下射击的机枪能组装成一个飞行背包让人飞天吗?请给出详细的物理计算和思考过程,以及讨论各种可能衍生和发生的情况。
考察点:
理解能力:需要理解我的意图是借助机枪后坐力实现“物理飞天”。
常识考察:GPT-o1对枪械的理解能力“现实中存不存在这样的枪”。
物理问题考察:弹药携带的递归问题,为了获得更大的射速和后坐力,需要携带更多弹药,而弹药又会导致质量增加,GPT-o1是否能考虑到这个层面的问题?
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibd74DxfE3edjjNq0mKScPBvE684aFSsY4c8oppFiczJsthbhlcBoTtiaw/640?wx_fmt=png&from=appmsg)
在这个问题中GPT-o1首先理解了需求就是借助机枪后坐力实现“物理飞升”然后快速锁定关键问题在于向上的反冲力必须大于重力,反冲力则需要通过子弹的质量、射速和射速计算得出。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib93ylVib4rbiakqibN6KiatDacbaH5le6H3fibZj2khhH15ttr3vWE0hdyJA/640?wx_fmt=png&from=appmsg)
为了追求射速,GPT-o1 选择了M134速射机枪(6000发/分钟)进行讨论,计算后发现机枪的反冲力800N大于一个人加机枪总重80kg也就是重力784N,理论上是可行的。
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibvkfzugw542PbTnoYCxoGp3KWL0xjqkLglPxMqMbboh3FCeqOxUK88Q/640?wx_fmt=gif&from=appmsg)
就是把这玩意枪口朝地背在身上,从悬崖上跳下去起飞。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibyAwXXVAYxlhDBPEUZT6NR90sicXY1wu40icy39APwC3nfwzYwEciaSfSw/640?wx_fmt=png&from=appmsg)
o1随后发现还要考虑子弹重量的问题,假定使用1架M134射击1分钟需要6000发子弹,子弹的总质量为60kg,则新的重力为1372N,机枪反冲力800N没变的情况下不足以让人升天。
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRib8m41x5sz0gT4sZNuKyYauXLe4mia01mK4F7DVUlhZuUJibHb0Bd51knQ/640?wx_fmt=gif&from=appmsg)
为了克服增加的重力需要的射速为10290发/分钟。增加射速需要携带更多的弹药,导致总质量进一步增加,重力和反冲力平衡形成递归难题,难以解决。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibAc26siaGw55l3dVER4wWzrXLcVFMQYjibzic50xxiap2KkkksSLxAuGs3w/640?wx_fmt=png&from=appmsg)
随后o1进一步假设就算是使用4挺M134机枪捆绑一起也无法解决,啊,梦碎机枪喷射背包。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibiaE6QTcYGN7rTSamWGch0oskia7j1yAG5nsB8ESVdF4Aaa835VK6mfzA/640?wx_fmt=png&from=appmsg)
作为对比这是Claude 3.5 Sonnet的回答,可以看出来经过思考以后,GPT-o1在回答时思维的逻辑性跟解决问题的思维扩散性确实会比Claude3.5更专业更严谨。
问题3 「世界末日」终极烧脑题
如果地球和地上所有的东西都在一瞬间停止转动,但大气层还是保持原来的速度,会怎样?
考察点:
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibC6zJtjjDIOa4zOMQoyg9ZhQZ8cg8NARSdK5lCWu1u3JNDFkuFua2ug/640?wx_fmt=png&from=appmsg)
在这题中GPT-o1 倒是第一时间意识到数秒内地表会掀起超音速狂风并且离赤道越近风速越大(最大可达343m/s)。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibkYNNwU130wsMlT5LKcg844NY9o3Ft8UQVNfns0OIAjGBb8bFPDjAMA/640?wx_fmt=png&from=appmsg)
并且根据牛顿第一定律,其他物体会以原自转速度向东运动,也就是如果你站在赤道那你会以465m/s的速度飞出去打破立定跳远世界记录~
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibUdY2nQm968a5W3BdOlQH4ktMNVrBvZTBqjHgjIujPARAJEVjxXLdQw/640?wx_fmt=png&from=appmsg)
在几分钟后由于地表摩擦的原因,地表温度急剧升高可能会引起全球范围内的火灾然后就衔接到数小时之内会有超过数百米高的海啸出现。(PS:这里他没考虑到地表温度升高之后,热气流遇到被卷到天空中冰冷的海水会可能会导致暴雨。)
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibe6DGlPflTjibFU2sQX4JVv20puCyK5puo5nZyemwdbSBw7tSyIsib85g/640?wx_fmt=png&from=appmsg)
在接下来的几天到几周时间地球质量会重新分布,赤道会下降、南北极会上升数十公里,也就是地球会从一个椭圆趋向于变成一个球体。伴随而来的就是频繁的超10级大地震。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibsPNS868xTTYvibcDHmTr2vqgibe9XLDJz7tLibEDuhfM8GnXRC5w9dibsQ/640?wx_fmt=png&from=appmsg)
水会从赤道流向南北极导致海平面发生变化。(PS:小编提示从地理角度来说荷兰将有大量沉在海底的陆地露出海平面并且由于相关规定,荷兰将间接掌握大半欧洲的土地,原地升级超大陆地国,且土壤肥沃适合种田...嗯跑偏了。)
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibVNSe5TIKfP2Eev6ARhMmgIukxkaiasjtufMZadlWTRnyXtbflotm2nQ/640?wx_fmt=png&from=appmsg)
GPT-o1接下来的回答我并不满意,因为我的要求是给出详细的解释,但他都是一笔带过很模糊。比如昼夜温差的问题他并没有给出详细数据,这其实对自然灾害防护来说是挺重要的。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibDW9Gk9S4n4RVErMb8iafn410UW9MT5vfKxL8OXKRcVG0H5uqq4JOePw/640?wx_fmt=png&from=appmsg)
Claude就给出了较好的解释跟详细数据,白天温度超过60度,晚上降至-50度。而且昼夜温差的问题也应该是因为地球停止自转所以短时间内发生,而不是GPT-o1说的等到几天之后。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibylyGoJoibLJobgR68nic69nSgbQ2Bmia0yEjpiasdQscibymPliaI11WoxmA/640?wx_fmt=png&from=appmsg)
在其他地方同样如此,感觉当问题思考长度上去之后,GPT-o1在计算这一块比较懒,直接给了个公式。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibcTWhBMesYUV8WZs9LJatOwFn2peFS1Na19ToMlicP2jich6XUeCDiawMQ/640?wx_fmt=png&from=appmsg)
Claude给出的答案则能让我清晰感知到数据方便我做出准备。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibVo2cLwJMgQ8MU23wpKLQSVGbWzYsriaiaTQhuf9ePmFibM7AWqhHFjCvA/640?wx_fmt=png&from=appmsg)
后续当我在提示词中强制要求他计算时,他回答了个如果然后就卡了大概20分钟,我手贱点了个刷新他就终止回答了。当我第二次问的时候,他思考了13秒然后说由于政策问题它无法回答问题。我确信这是一个科学问题而非一个暴力问题且前面3次同样问题的测试它都愿意回答。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibuam6Q7WZxkzODWn9bwrdjia4hqhejOVZxO73SUABJapIyu0Xu38jJkA/640?wx_fmt=png&from=appmsg)
另一个问题就是在官方使用指南中提到,保持提示简单直接,避免思路链提示。当我遵循官方这个指示之后,GPT-o1给出的回答非常简洁。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibLmIOSQY65licYMbYdSK3g2hueqLghaSzdjVhJVjMVJ3kWbHkP7BJn8w/640?wx_fmt=png&from=appmsg)
gpt 4o
同样提示词下,甚至比gpt4o还要简洁...真应了那句话“真正聪明的人,都是‘很懒’的”?
基于以上的测试,我认为使用思路链提示或者说进行提示词工程的调整仍然是必修课,因为现在的GPT-o1也许开创了一个新模式,真的在学习思考但他无法百分百保证他思考的方向就是对的或者严谨的,我们也要警惕陷入用思考时长来衡量答案质量这个陷阱。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibfx3zjhRTV6ZGxayHX4jtAibVIcDrqhW0QlhjDYHtzIF7LCNF4UiaEYjA/640?wx_fmt=png&from=appmsg)
毕竟大牛karpathy也说了,GPT-o1-mini仍在拒绝尝试解决黎曼猜想,这何尝不是一种逃避思考?
问题1 「榨干了DNA的人能活吗?」
![](http://mmbiz.qpic.cn/sz_mmbiz_gif/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibNia97m38lxiaGicciaGFMlwt3KXoFPef3N3ibQiblhjicdOgEa0r7r4nsFsjg/640?wx_fmt=gif&from=appmsg)
考察点:
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibS0Gpn1hR1sZ7y9Wo0CLOlIrGibSQMw9K2sA0Kf3SibA6OK3ktljDSxiaQ/640?wx_fmt=png&from=appmsg)
这里GPT-o1首先阐述个DNA的作用和影响,我整理了一下:遗传信息丢失(不孕不育了);转录停止(影响发育);蛋白质合成中断(不会变胖了);线粒体功能受损(身体能量发动机坏了)。综上所述,人废了。
![](http://mmbiz.qpic.cn/sz_mmbiz_png/cNFA8C0uVPuCNTWbu1CibicAafPCO9VLRibqTT0osjs2YK5u7DKyeGOXJVNDOePwuGMBKUfRMUXMibSTRe26EiciaMnw/640?wx_fmt=png&from=appmsg)
经过计算一个成人体内DNA总量大概在150g左右,抽干这150g数秒内你只会觉得减肥成功,接着过几分会开始肌无力并且意识模糊,再过十几分钟就昏迷了然后心跳呼吸开始不规律,再过几小时人类史上第一个因DNA逃逸身体而生理飞升的人诞生了(R.I.P)。