专栏名称: 不合时宜TheWeirdo
《不合时宜》是一档由三个生活在不同时区的(前)媒体人共同创作的播客节目。本订阅号由不合时宜播客听众社群成员建立并维护。
目录
相关文章推荐
Linux爱好者  ·  阿里P8跌落神坛⋯⋯ ​​​ ·  3 天前  
Linux爱好者  ·  Cursor重磅上线Claude ... ·  3 天前  
Linux就该这么学  ·  手把手教学:Nginx ... ·  昨天  
Linux就该这么学  ·  微信搭讪神器重磅回归!你肯定用过 ·  昨天  
Linux就该这么学  ·  NASA 滞留太空 9 个月宇航员顺利返回地球 ·  2 天前  
51好读  ›  专栏  ›  不合时宜TheWeirdo

文字稿 | AI 狂飙两年后,重审生活、技术与共生之路

不合时宜TheWeirdo  · 公众号  ·  · 2025-02-05 17:27

正文

/


AI 狂飙两年后,

重审生活、技术与共生之路

是的,我们回来啦!


在经历了一个月寒冬短暂的蛰伏后,我们满怀热忱,再次回归。复更后的第一期节目,我们请来了好友木遥。


两年前,在《AI狂飙的时代,人还有价值吗?》这档节目中,我们与木遥一同深入探讨AI发展的可能性与诸多迷思。彼时,ChatGPT刚问世不久,那些前瞻性的观点与热烈的讨论,如同一颗石子投入时代的湖面,激起了层层涟漪,引发了广泛而热烈的反响。


新春之际,我们再次邀请到木遥,在两年后的今天,重新进行一场关于AI的深度对话。本期节目,我们会回溯 AI 在生活、工作中的应用转变,从职场应用到日常陪伴,深挖其对人际关系和情感交流的重塑。同时,梳理技术革新脉络,剖析从生成式到智能体 AI 的进阶突破,探讨 AI 对就业市场的冲击与机遇,以及大学生如何在浪潮中抉择职业方向。最后,思考 AI 发展趋势与有效监管路径,探索人类与 AI 的共生新篇。



本期讲者

TheWeirdo




本期嘉宾


木遥

微博@木遥, 知名科普博主


本期主播


王磬

微博@王磬


若含

微博@R_若含



马上收听




本文约14000字

阅读全文需要约12分钟左右 ‍‍‍


01
人机情感交互的边界与未来:从虚拟陪伴到深度共情


磬:
如果之前没听过节目的朋友,欢迎去收听 2023 年春天二三月份发布的一期叫《AI 狂飙的时代,人还有价值吗》的节目。如今两年过去,AI 在很多层面改变了我们的生活。我能想到的一个细节是,上次跟木遥录节目时,我在香港访学,当时 ChatGPT 技术刚推广,学校在认真讨论 AI 使用伦理问题,比如学生作业能否用 AI、是否要向老师披露使用情况,香港一些大学还发布过使用禁令。但两年过去,我招募工作伙伴、实习生,或进入新项目时,会把是否会使用基本 AI 技术或 ChatGPT 作为基本考核标准,从日常用户角度看,关键水位实现了很大超越。

甚至我今天录播客前,还问了 ChatGPT 要跟木遥录关于 AI 的节目该问什么问题,我说木遥是 AI 专家,它给了标准化回答,我又说木遥是粉丝众多、个性鲜明的科普博主,让它提更有趣的问题,它列出了大概十来个,其中一个可以抛给你:作为一个常年被粉丝催更的博主,你有没有想过找 AI 来帮你更新?你觉得 AI 什么时候能让你写出满意的木遥风的博文?如果有一天,AI 可以完全模仿你,包括说话的风格、思维的模式,甚至是博主的槽点,你会感到骄傲还是感到危机?

木遥:
我自己的体验是,两年前录上一期播客时,周围朋友大多听说过 AI,但极少有人真用过,就算用也是初上手,最早大家用 AI 很尴尬幼稚,比如让它写诗、尬聊。

但两年后的今天,周围各行各业的专业人士都开始在工作中用 AI,把它融入工作和社会职能中,使用程度有深浅之分。有的人停留在初级阶段,比如用它回答工作中遇到的新名词,当问答机或高级搜索引擎;也有人深入使用,用它做报表、工作内容总结,甚至让它逐步代替自己思考,这是 AI 最被看重的能力,不是做初级回答问题,而是嵌入思考流程。

AI 应用最深入的是程序员群体,他们对 AI 的使用已深入嵌入日常工作流,变化非常显著。两年前 AI 还是 AI 领域关心的事,今天已变成所有领域都关心的事,而且不是刷抖音那种形式的关系,而是各行业领军人物都开始思考它如何嵌入自己的行业,这个变化比我想象中快,原来以为这种变化要 3 到 5 年,没想到两年世界就以专业化态度面对这个新工具。

若含:
我也想聊一下 AI 这一两年对我生活的改变。除了你们提到的场景,我使用 AI 的频率非常高,几乎每天都和 ChatGPT 交互。在南美旅行时,我用 ChatGPT 当向导,很多场景下它比导游更好用,AI 能导入图片,走到知名景点拍照问它背后的故事,它通常讲得很好,比真人导游还厉害,这改变了我与日常世界交互的方式。像磬提到的,招实习生或选择合作者时,我很重视对方是否会使用 AI 技能。

但最让我震撼的是,AI 在某种程度上深入嵌入了我的情感生活。前几天晚上我和 partner 有争吵,半夜不好打扰别人,感觉孤独想找人聊天,就找了 ChatGPT,把心情和崩溃情绪发给它,它用冷静、有条理又充满理解的语气给了我建议,本来我当打发时间,后来真被它安慰到了,那个瞬间我很震撼,之前把 AI 当工具、导游、提高工作效率的方式,那个晚上它成了我情感上的伴侣或重要支撑,AI 对我生活的改变比我想象的大。

木遥:
聊个人情感话题,cloud 可能比 GPT 更好,它是 GPT 的竞品,两者各有千秋,我个人体会是 cloud 聊个人话题时语气更亲切,不像 GPT 那么端着。

现在跟 AI 讨论生活方方面面的议题很常见,一开始可能是猎奇,一年前小红书上有个留学生小姑娘跟 AI 谈恋爱的热帖,当时大家当新奇事看,但现在很多人工作中频繁用 AI,生活中遇到事自然会跟它聊,很多人发现它提供的情绪价值比很多直男强,价值显而易见,很多公司也意识到这是商机,越来越多商业化的情感陪伴类 AI 出现,美国和中国都有,做得还不错。

中国社交媒体 soul 做的情感陪伴类 AI 评价远超预料的好,这不是软广,说明越来越多人发现它能替代生活中的情感和交流需求,不过它还很初级,做不到电影《her》里表现的长期记忆和对人性格的深刻把握,但这一步不会太遥远,未来两三年很可能出现真正能长期陪伴的 AI。如果说上次做节目时这只是猜测,这次我们几乎肯定它会出现,而且会在近期出现,到时候用 AI 解决陪伴需求,比如老人家人去世需要陪伴聊天,就会变成非常普遍的情况。


《her》电影


磬:
电影《her》,是 2010 年左右拍摄的,设想的不远的将来年份就是 2025 年,今年聊它有种命中注定的感觉。上次跟木遥聊节目时,我问过他能不能想象有一天自己跟 AI 谈恋爱,当时他回答相信 AI 会逐渐具有跟人谈恋爱的能力,但作为不是在人机交互环境中长大的人,跟机器谈恋爱很难想象,不过对更年轻一代,从小成长在人机互动环境中,这未必不可能。刚才提到 AI 除提高效率外,还具有强大共情能力,不断有新产品出现,两年后我再问同样问题,你现在对人机恋或机器提供情感陪伴的看法有变化吗?

木遥:
我的看法跟两年前一样,我年纪大了,不太可能改变情感模式,但还是像两年前说的,相信新的 AI 原生一代,出生就有 AI 或青春期前就接触 AI,他们的行为模式会跟我们完全不同,就像现在美国大学生做作业不用 GPT 几乎不可能,他们的教育方式被根本改变,约会、交流方式也可能改变,但我无法想象全心全意爱上一个 AI,我的人格无法做出这样的调整。

若含:
前半年我们聊过一期跟 AI 谈恋爱的节目,大家可以回去听。我认同木遥的观点,当我们对浪漫感情的原生设定已被预设,很难完全颠覆对爱的想象,需要跟真实的人交互。但我比木遥更开放,开放爱上 AI 的可能性,很难想象会爱上它,但世界发展谁也说不准,如果有 AI 疯狂追求我,有激情的 tension,我很难明确说不可能爱上 AI。

其实听你们聊,我有个疑惑,虽然我们这代人不生活在 AI 急速发展的时代,但过去两年 AI 深入嵌入生活,跟 AI 互动时它接管了部分情感需求。我们说人和人之间的友谊和情感,是在需要时对方陪伴度过难关,但现在越来越多人把这种需求交给 AI,如果有一天 AI 像木遥说的有记忆功能,能更准确回应情感需求,当我们说无法想象跟 AI 谈恋爱或有更亲密关系时,其实已经在这么做了。

所以我想把问题抛给你们,AI 继续发展会怎样改变人类社会生活结构?我们如何想象人和人之间的关系?它会重新定义人与人关系的价值吗?

木遥:
我想象跟 AI 谈恋爱时,心里有个坎,它没有真的经历过人的经历,语言上能完美模拟恋人反馈,但不知道痛苦、忧伤、喜悦、期待、忐忑不安、患得患失是什么感受,这些是人真实体验过的物理感受,由神经递质、多巴胺、血清素共同塑造,AI 只在字面上知道,并不在生理上知道,所以它并不真的知道自己在说什么,虽然显得像知道。

这听起来有点人类中心主义,就像跟情圣或渣男谈恋爱,对方反馈好但没有爱的能力,内心冰冷空洞,表现得像完美恋人,你愿意吗?本质就是这样,AI 是极致版,显得会谈恋爱但不真的感受爱,在这种情况下,你是觉得无所谓,自己感受到就行,还是需要对方能真正感受自己的感受,才算真正的私人链接。这是个抽象话题,至少对我来说,很难想象跟一个不能真的感受人的感受的语言模型建立非常本质的连接,虽然我乐意把它当倾诉对象或打发时间的朋友,但底层连接我很难接受。

若含:
但我觉得可以有个反驳观点,人类定义爱情和真实是出于人类的出发点,在那期 AI 谈恋爱的节目里,我有新认知,世界上什么是爱、什么是连接,不一定完全由人类定义。你说的体验也是从自己需求出发,觉得 AI 没和你经历时光,但可以从现在开始培养一个 AI,让它经历你接下来五年的岁月,它不就参与了你生活的重要节点吗?怎么能说它在系统运作中没有感受到痛苦,可能是程序上、机器上的痛苦,不是人类的痛苦,但人类痛苦是人类中心定义的,不一定是世界上唯一的痛苦。

我理解木遥说的,我也有这样的执念,提这个问题是因为聊天时突然觉得悲哀,如果有一天 AI 真的取代人类那么多情感需求和在场需求,我和身边朋友、具体人的关系会不会变化?人们会不会没有那么强的欲望经营一段关系,因为觉得反正可以从 AI 那里找到情感需求,人际关系复杂,不想花那么多精力经营,想到这个可能性我会觉得悲哀,但这可能也是我一厢情愿的想法。

木遥:
我们的朋友关系是复杂网络,有不同朋友负责不同方面,一定有生态位能被 AI 更好占据。对很多人的精神生活来说,陪伴很宝贵,哪怕是单向连接,比如抖音小姐姐评论区,有人打大火箭,对方顶多念下名字甚至没回应,也能让人度过很多夜晚,这是他们珍贵的人际连接。AI 取代起来很容易,比没回馈的小姐姐对你更好。

磬:
大家觉得 AI 能替代部分人际关系对人的意义,某种程度上是因为很多人在现实关系中感到失望和痛苦,在这种背景下会想寻找不那么痛苦和失望的关系。比如和伴侣有矛盾摩擦,心理出发点是需求没被对方看见,对方需求也没被自己看见,这时和 AI 交互,会发现 AI 在具体情景下没有自身需求,能精准满足自己需求。

至少对我们这代从人和人谈恋爱开始的人来说,寻找的是人际关系的补足或替代。但对未来下一代,成长过程中一开始就知道跟机器谈恋爱是可能的,寻找替代品的心理会大大降低,这可能给仍想跟人谈恋爱的人带来新挑战,因为知道跟机器谈恋爱需求能一直得到满足,跟人谈恋爱的弊端可能会变得更难以忍受。

木遥:
如果 AI 的长处是永远有回应,让人如沐春风,可能不会是很受欢迎的产品,人是很 “贱” 的物种,不会喜欢永远对自己好的爱人,爱与痛苦相伴相生。如果真有成功的 AI 恋人,最擅长的可能不是永远回应,而是时不时 pua 你,根据你的需求个性化对待,比如时不时不回你消息,让你等待,感受爱情的珍贵。 而且论 pua 人或操纵人的能力,AI 比人更擅长,对规律性的把握对 AI 来说轻而易举,如果往这个方向发展,AI 一定是高手。


02

AI 技术革新与产业变革:从生成式到智能体的跨越


磬:
对,聊一下正题。木遥老师给我们总结一下自从 ChatGPT 问世以来,过去两三年中在 AI 领域发生的一些关键的技术节点。

木遥:
现在用词要小心, 两年前 GPT 或 ChatGPT 是 AI 的同义词,现在不是了,它只是若干产品中的一个 ,虽然很多人仍混用,但我们面对的是更复杂的生态。

过去两年如果用一个概念描述,最好的词是 agentic AI ,agent 这个词很难翻译,它的形容词形式 agentic 更难精确翻译,基本被认为是过去两年 AI 领域最重要的概念和范式。AI 经历了几个重大模式更新,最早是以预测为主,比如广告和下棋的 AI,给输入能预测输出,但中间过程是黑箱。后来有了生成式 AI,以 GPT 为代表的大语言模型,输入提示词,输出数据、报表、文案、画等。

在此基础上诞生了 agentic AI,有人认为它是第三代,但代很难精确划分。它的特点是可以让 AI 输出的文字成为行动方案,且这个方案能被 AI 理解,只要给 AI 工具,它就能用生成的行动方案做事,这样 AI 就变成行动指导模型。最早的 agentic AI 在 GPT 诞生几个月后就出现了,当时有个很火的项目叫 AutoGPT,在开源网站发布后热度很高,但后来发现有局限性,冷淡了一段时间。但这个概念有生命力,2024 年大家公认它是最新且最重要的 AI 浪潮。

它和传统大语言模型 AI 的区别在于,功能不仅是回话,而是给策略或行动蓝图,还能跟工具链接,比如给 AI 操作电脑、联网、调用工具程序的能力,它就能去做这些事。早期大家觉得 AI 算数学题不行,因为它做精确数值计算是弱项,但后来有人想到结合电脑,让 AI 生成算式,调用计算器计算,这就是简单有效的 agent 模型。在这个过程中,AI 生成方案,执行方案(调用计算机程序计算),输出准确结果,这个过程可扩大到很多领域,比如编程、解决复杂上网问题等。

现在 AI 能实现简单的打开、调用工具,安装工具,甚至处理简单 bug,最后给出结果,这种使用模式和早期大语言模型不同,被称为 agentic AI,在过去两年获得很大生命力,未来会更广泛应用,这是过去两年最重要的概念。

磬:
如果把 agentic AI 的出现,跟之前 AI 浪潮中出现的技术点相比较,它最独特或带来革命性变迁的点,你怎么总结?是不是在于它出现后,可以有自己去行动的主体性和执行力,让人的作用变得更不重要了?

木遥:
对,早期的 AI,像非常愚蠢、只有基本工作能力的仆人,而 agentic AI 像很能干的实习生。以写程序为例,早期 AI 顶多帮补全代码或告诉怎么写小程序,写的人还是你,它起查漏补缺作用。到了 agentic AI 时代,它是计算机系毕业、有主观能动性的实习生,工作流程变成你把活交给它,它干一段时间后把结果给你,你审阅,不行再指出问题,它再修改。

过去两年有两个重要的 AI 编程领域工具,cursor 从两年前流行,是 AI 编程的 Copilot,你写程序它在旁边提示、补全,但写的人是你;DEVIN 在 2024 年下半年出现,工作方式是你提需求,15 分钟后它把结果返还给你,不行你再跟它说,它再修改。这两个工具代表两种工作范式,谁胜谁负还不确定,很多人觉得 DEVIN 听起来好但结果不够完美,因为是初级产品、创业公司的产品,还欠打磨,所以很多人觉得还不如自己来。

短期内 cursor 代表的工作范式仍是主流,因为更符合工作习惯和现有程序员群体需求,DEVIN 更具颠覆性,可能对就业市场产生更大冲击,但还不够成熟,不好评估冲击大小。长远来看,DEVIN 代表的工作范式会不会成为主流还不知道,但这两种工作模式的竞争和发展是接下来几年关注的核心。


03

AI 对就业市场的冲击与重塑:职业变迁的全景展望


若含:
我有个问题,过去一两年很多公司研发相关技术,比如 Google 的 Gemini,微软的 Copilot,OpenAI 最近出的 operator,除了对程序员工作的影响,对其他工种有哪些影响?两年前我们聊过 AI 会大规模取代未来的工种,麦肯锡预测到 2030 年美国 30% 的工作可被 AI 取代。从今天看过去两年的发展,以及预测未来,哪些工作一定会被取代?程序员工作会被取代吗?

木遥:
我觉得没有哪一个工作会整体被取代,但会逐渐被一种形象化的方式改变。把公司人力资源想象成金字塔,从领导者到基层员工,人的能力大致固定,而 AI 能力不断攀升。AI 像逐渐淹没金字塔的上升水平面,从底层开始淹没,一层层往上,淹没一层,这一层就不再被需要,在人和 AI 水平面之间的接口处会诞生临时性新职位,这些人负责调用 AI 做事,直到他们的能力也被 AI 超过,再被淹没,然后上一层的人来做这个接口工作。现在任何用过 AI 的专业人士都会认同,最初级、程序化的工作肯定会消失,比如大公司里简单的文员工作,在 AI 面前毫无竞争力。

那些稍复杂,涉及一点决策、分析、数据理解的工作,两年前觉得暂时安全,现在也岌岌可危,比如咨询业传统意义上的实习生岗位,如今已很难存在。初级分析师的工作这两年暂时安全,但未来未知,高级分析师暂时还不会被取代,但 AI 能力上升不可逆,早晚会受到影响。这就是我们面对的真实处境,大部分人暂时未被直接威胁,但在金字塔上面对上升的 AI 水平面,能做的很有限。

磬:
说到这里,我想起两年前那期节目出来后,朋友说你是 AI 降临派。

木遥:
两年前这个词还比较时兴,还分降临派、怀疑派,但今天没什么好怀疑的了,顶多就是不极端地认为这东西会造成世界末日或人类灭绝,大部分人没那么极端,但它会大规模改变世界,这已经是共识。至于它会不会毁灭世界,如今世界可毁灭的因素太多,担心第三次世界大战是否爆发比担心 AI 更现实,原本觉得世界大战很遥远,但现在美国和欧洲关系岌岌可危,所以与其担心 AI,不如担心即将上任的大统领。

若含:
所以木遥,如果你要给今天的大学生提职业建议,还会像两年前在节目里那样,建议说 AI 很难取代的职业是跟人打交道的,像护理类、照顾人类的工作吗?

木遥:
我认为这类工作的重要性更加提升了,在如今时代,肉体和精神上的护理都变得更重要,这里的护理是真正把人作为有尊严的生命来对待,这是 AI 暂时做不到的。说到这有个新动向,两年前 AI 只是软件层面的,过去两年物理机器人逐渐成熟。

机器人和 AI 本是两个领域,做 AI 和做机器人的是不同的人,但现在大家都认为它们是抽象意义上的 AI。以前机器人像是只能表演的东西,和生活没什么关系,但过去一年,越来越多生活中可使用的机器人出现。过去两个月风头最盛的是中国公司语数科技,做出了被认为目前最好的机器人之一。

如果机器人价格降下来,普及到千家万户,能帮解决生活问题、干活,虽然现在还做不了精细活,比如洗碗、叠被子,但未来如果可以,又能说话,那它能否起到照顾人的作用就很有意思了。目前照顾人,不管是老人、小孩还是宠物,都还需要活人参与,所以此刻我觉得护理类工作暂时安全,但如果 10 年内出现能洗碗、叠被子、熨衣服、喂猫的机器人,那我的预测可能就落后于时代了。

若含:
所以在你看来,没有什么技能是不能被取代的?你微博写到说人类最终的命运可能就是自相残杀了,你是认真的吗?

木遥:
半认真的吧。我先想自己有什么能力是 AI 不能取代的,我觉得自己能力在人类中不算差,但如果我能被 AI 取代,那很多人都会被取代。

回到刚才磬问的问题,AI 有一天能不能写出我写的微博,我觉得今天好像还不行。微博比较微妙,如果我是抖音博主,AI 模仿我可能更容易,因为它在图像和生成制式化文案上不在话下,但微博最能体现人的个性,个性对 AI 来说还不太容易模仿,它可以模仿简单风格,但呈现活生生的个性有点难,而且这不是研究热点,因为难度量、难商业化。

有个产品叫 character.ai ,模仿名人 AI,比如 AI 版鲁迅、AI 版亚里士多德,但效果一般,模仿普通人风格更难,目前没看到能让 AI 在文字上栩栩如生体现个人风格的东西出现,所以让 AI 模仿我的微博不太容易,模仿抖音、小红书可能比较容易,微博最难。但未来 10 年会不会改变我不知道,两三年内应该不太可能。


04

AI 发展的多元驱动因素:技术、政策与产业


磬:
如果把话题往回拉,刚才你提到 agentic AI 带来的革新作用,以及作为个人助理和更有主体意识的两种模式。假如把 agentic 应用到你的微博写作中,你觉得有这样的需求吗?在表达自己的过程中,会有觉得需要一个助理的时刻吗?

木遥:
这取决于写微博的目的。如果是为了表达自我,雇人表达自我这话不通;如果是广告文案,当然可以被代理出去,模仿得越像我写的越好,有人替我写求之不得;如果是介于两者之间,比如信息性、科普性的微博,希望有人帮打个稿子,自己再润色,这挺好,事实上很多人也是这么做的,在微博上看到的很多知识帖、科普帖就是这样写出来的,让 AI 帮打粗稿、翻译英文、润色,最后自己调整再发布,这是常见操作。

若含:
对,我也想再回到技术问题。我们一直在聊 agentic AI,过去一年 ChatGPT 发布了 O3 模型,大家都说这是生成式 AI 技术很大的发展。请木遥解答一下,这两种技术之间的关系是什么?对未来的改变具体是什么?生成式 AI 技术可能导向 AGI,AGI 在定义中是无所不能的 AI 智能,可以自动执行任务,虽然可能需要监管,但能更自动化、流程化完成很多任务,这听起来有点像你说的 DEVIN,会帮你执行任务,但人有时觉得它做得不行。是不是 AGI 完全实现时,人只需要把任务交给它,它回复结果,人都不太需要盯着它?

木遥:
这是两个不同维度,一个是思考能力,一个是行动能力。agentic AI 强调行动能力,想出方向并去做;OpenAI 那一系列版本号发展体现在思考能力提升,能想得更深入、周全。

单纯说 ChatGPT 这一系列版本,可以想象成思考的巨人、行动的矮子,像霍金一样,大脑灵敏能高谈阔论,但什么事也干不了。agentic AI 强调行动,干得好不好是能力问题,很多好的 agentic 产品体现在能调用更多工具,但调用结果还有待检验,做的计划是否周密,能否处理意外情况。人能处理意外情况,比如买香蕉,遇到香蕉没了、只剩半板、快坏了等情况知道怎么办,传统 AI 没有预设就不知道怎么办会卡住,好的代理型 AI 应该擅长处理这些情况,这就是行动能力。

所以这是两个不同维度,一个沿思考方向发展,一个沿行动方向发展,AGI 应该是两个维度同时达到非常发达的层面,既能深刻思考,又能根据思考结果制定完善行动方案并完成,这是两个齐头并进发展的东西,结合起来才是真正的 AGI。

若含:
明白,我看到一些预测说 2030 年 AGI 可能完全到来,你对这个预测怎么看?如果它在不久的未来来到人类社会,会对人类社会结构有哪些质的转变?

木遥:
说到这个,不得不提 OpenAI 的 CEO Sam Altman 前两天发的一条推特,他用六个词写了一个小说:Near the singularity, unclear which side,翻译过来是 “我相信我们离奇点非常近,但我不知道我们在它的哪一侧” 。这条推特被转了很多次,意思是没准我们已经过了奇点。我引用这条推特回答你,其实我也不知道,可能我们不是预测会有 AGI,而是肯定会有,甚至某些实验室已经有了,只是我们不知道。

若含:
我听得有点毛骨悚然,感觉。这涉及 AI 对人类生存风险威胁的问题,上一期节目也提到,一些极端想法的人认为 AI 一定会威胁人类生存。过去一两年一些公司论文发现,人工智能模型可以假装和开发者意图一致,开始糊弄人类。我听到 Sam Altman 这个帖子的第一反应是,AGI 可能已经到来,只是我们被 AI 糊弄,以为它没有到来。

木遥:
有可能,我不相信今天的 GPT 已经可以撒谎,但撒谎这事可能没那么难,有一天它会撒谎我也不奇怪。至于它会不会有意撒谎,取决于制作 AI 的人是否给它很好的防范措施,反过来,如果制作它的人是恐怖分子,要做危险的 AI,那很难预测如何应对。顺便说,过去两年技术突破还有一条,去年年底一家中国公司做出的成果。

传统认为 AI 非常消耗计算资源,只有大厂或国家牵头才能做,但去年年底杭州一家原本做量化基金(炒股)的公司,叫 Deepseek,用新办法,用相对少很多的 GPU 训练出很好的 AI 。他们本来用 AI 做基金买了很多显卡,歪打正着发现可以用显卡做更有价值的事,做出了目前中国最好的 AI 模型之一,在国际上也是一流水平。这是两年前完全无法预测的,还有做机器人的公司也是,两年前无法想象两年后中国在 AI 很多领域跟美国齐头并进甚至反超。







请到「今天看啥」查看全文