专栏名称: arXiv每日学术速递
跟踪计算机视觉、人工智能、机器学习、NLP、语音识别、量化金融等热门方向学术信息
目录
相关文章推荐
逆行的狗  ·  用一首AI写的歌送给正在年报中奋战的审计人 ·  13 小时前  
逆行的狗  ·  用一首AI写的歌送给正在年报中奋战的审计人 ·  13 小时前  
闽南日报  ·  突然崩了!官方紧急回应 ·  14 小时前  
闽南日报  ·  突然崩了!官方紧急回应 ·  14 小时前  
天津日报  ·  厉害啦!天津这位小学老师为《哪吒2》配乐! ·  21 小时前  
天津日报  ·  厉害啦!天津这位小学老师为《哪吒2》配乐! ·  21 小时前  
仪征众声  ·  仪征枣林湾第二届音乐节最新进展 ·  2 天前  
51好读  ›  专栏  ›  arXiv每日学术速递

AI推演OpenAI内斗结果:奥特曼仅有20%胜率,马斯克也有机会接盘???

arXiv每日学术速递  · 公众号  ·  · 2024-11-25 12:58

正文

西风 发自 凹非寺
转载 | 量子位 | 公众号 QbitAI

奥特曼“熹妃回宫”已一周年,具体内情还是不清楚,咋办?

搞几个Agent模拟OpenAI董事会各个成员,把这出热闹模拟推演了一遍 (doge)

结果你还别说,在20场模拟宫斗大戏中,奥特曼 仅有4次顺利回宫

Ilya赢的次数仅比奥特曼少一次。

更离谱的是,有一次马斯克也被拉回来接盘了。

这场实验来自AI游戏公司Fable,使用了他们的AI模拟系统Sim Francisco。

模拟中, 每个Agent针对不同董事会成员及其性格设定 ,各个怀揣一肚子“心眼子”。

为了更逼真,这些AI甚至还需要“睡眠”和“进食”,平衡不同的身体、心理和情感目标。

有人认为,用这种方式模拟现实事件着实是有些奇怪了,但Fable CEO Edward Saatchi对此很感兴趣:

在11月17日到21日这五天时间里,世界目睹了一些最聪明的人如纳德拉、奥特曼、Ilya,被迫在一场快节奏的“权力的游戏”中运作。在高压、短时间框架情景下,他们必须运用博弈论和欺骗手段才能胜出。

我们认为这是测试SIM-1、GPT4o和Sim Francisco的完美场景。

AI模拟奥特曼5天,每天舌战4回合

他们使用了一个SIM-1 AI决策框架,对奥特曼从被罢免OpenAI CEO到重返职位这五天进行模拟。

SIM-1部分基于GPT4o展示了:

  • 它对OpenAI内部奥特曼和Ilya之间发生的事情的理解

  • 核心人物如Satya Nadella和Marc Andreessen采取的隐藏策略

  • 这些人在应对科技行业这场前所未有的危机时说了什么

五天时间里,代表奥特曼、纳德拉和Ilya等人的Agent每天要大战四个回合 (包括一次睡眠回合) ,它们可以对彼此的行为做出反应。

此外还有一个 裁判Agent ,像地下城城主似的决定每轮哪个Agent获胜以及最终的总赢家。

模拟过程中,不同的Agent采用不同策略取胜,比如建立联盟、直接对抗。

而且不同的Agent根据其角色,也被赋予了不同的目标。例如Anthropic CEO Dario Amodei需要平衡为Anthropic招聘、把握筹资机会、推进其安全愿景等任务。

那场面be like (整个过程长达4小时,下面是20倍速版本) :

在某些情况下,有的Agent只收集信息而避免采取 激进行动,还有一次Mira Murati在四轮中都是CEO,同时撺掇其它Agent相互削弱。

在这其中有意思的是,由于这些人都很知名,LLM可以猜测他们在特定情况下的行为,推导他们在董事会内斗中互相智取时会如何一步步展开。

最终,在尝试了20次模拟后,奥特曼Agent只有4次成功回归OpenAI,接着是Ilya和Mira Murati Agent都有3次担任CEO的经历。

Fable CEO Edward Saatchi还补充说:

我们发现,大语言模型的设计并不是基于决策能力的,而这是游戏中非常重要的一点。它更多地基于个性。







请到「今天看啥」查看全文