专栏名称: 新智元
智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。
目录
相关文章推荐
读嘉新闻  ·  裂开！太疼了！嘉兴女子早上起床后，发现吓人一幕…… ·  昨天  
读嘉新闻  ·  裂开！太疼了！嘉兴女子早上起床后，发现吓人一幕…… ·  昨天  
海陆物语  ·  “你就是开个集装箱回去，也会被塞满！” ·  2 天前  
日本万象  ·  日本金牌媒婆改造大龄剩男，“土肥圆”秒变“精 ... ·  3 天前  
FM1007福建交通广播  ·  小S再发声：返台时间不对外公开！汪小菲妻子马 ... ·  3 天前  
FM1007福建交通广播  ·  小S再发声：返台时间不对外公开！汪小菲妻子马 ... ·  3 天前  
甘肃公安  ·  节日我在岗丨海报里的年味是守护 ·  4 天前  
甘肃公安  ·  节日我在岗丨海报里的年味是守护 ·  4 天前  
51好读  ›  专栏  ›  新智元

立人设，言行不一，漠视安全！马库斯再列「贪婪之罪」指控奥特曼

新智元  · 公众号  ·  · 2024-08-08 12:32

正文


新智元报道

编辑：耳朵 乔杨
【新智元导读】 Gary Marcus再写长文整顿AI巨头圈：我们最该害怕的奥特曼是山姆·奥特曼。


2023年5月16日，正值人工智能狂热的高峰期，OpenAI首席执行官奥特曼，站在美国参议院司法小组委员会前，参与人工智能监督会议。

奥特曼在密苏里州圣路易斯长大，是斯坦福大学的辍学生，他在30岁之前就成为了非常成功的Y Combinator初创孵化器的总裁。
在听证会前几个月，ChatGPT刚刚席卷了全世界。
整个2023年夏天，奥特曼都受到了披头士乐队一般的待遇，像世界巡演一样来到华盛顿，会见了世界各地的总理和总统。

美国参议员Kyrsten Sinema滔滔不绝地说，「我从未见过像Sam这样聪明的人，他性格内向且谦逊，但是非常擅长与国会议员建立关系，并且可以帮助政府人员了解人工智能。」

当时最美好的词汇都用形容这位年轻CEO：真诚、才华横溢、富有、充满人文关怀等等。
他常常说人工智能可以改变全球经济，这让世界领导人对他的宏图大计都兴致勃勃。

被耍了？


参议员Richard Blumenthal将奥特曼和Gary Marcus都召集到华盛顿，讨论应该如何处理人工智能这把新兴科技的「双刃剑」，议程是人工智能政策和监管。
奥特曼代表AI巨头，Gary Marcus作为一名科学家和作家到场。
这位Gary Marcus也是老朋友了，AGI真有泡沫破裂的那天他领头等功。
「最先呼吁GenAI泡沫」
Marcus在听证会当天也差点被奥特曼的人格魅力折服，虽然有时奥特曼会回避问题，但总的来说，他看起来很真诚。
两人在会上都强烈支持人工智能监管。但渐渐地，Marcus意识到自己、参议院以及美国人民可能都被「耍」了。
事实上，Marcus一直对OpenAI抱有一些疑虑。
OpenAI新闻宣传活动经常夸大其词，甚至具有误导性，例如他们对机器人玩魔方的花哨演示，结果发现魔方内部装有特殊传感器。
多年来，OpenAI这个名字，以及他们非营利组织的定位，都代表了科技创造的一种开放性。然而事实上，随着时间的推移，它变得越来越不Open。
OpenAI经常暗示AGI即将到来，在Marcus看来，这是毫无根据的炒作，奥特曼却用不同的话术吹得让人眼花缭乱。

在参议院，奥特曼给自己立了一个无私热血的人设。参议员John Kennedy问道，「好吧，你赚了很多钱吗？」
奥特曼回答说，「并没有，我得到的钱足以支付医疗保险的费用。我没有OpenAI的股权。」他解释说，「我这样做是因为我热爱AI」参议员们听了都很受用。

然而，Marcus写道，奥特曼并没有说出全部真相。他的确没有持有OpenAI的任何股票，但他持有Y Combinator的股票，而Y Combinator也持有OpenAI的股票。
这意味着奥特曼间接拥有OpenAI的股份，这一事实在OpenAI的网站上也可以确认。
如果间接持股仅占公司价值的0.1%，那么其价值将接近1亿美元。
这一模糊的表达就是一个警告信号。当话题回来时，奥特曼本可以补充和纠正它，但他没有这么做。
人们总喜欢听热血青年无私创业的神话，他在《财富》杂志的一篇文章中也声称他不需要OpenAI的股权， 因为他「不差钱」 。
不久之后的宫斗大戏中，OpenAI转头与奥特曼投资的一家芯片公司达成了交易。

最搞笑的是，两家公司总部都在旧金山，相距不到一公里，走个路十来分钟就到。
事后看来，关于金钱的讨论并不是奥特曼在参议院期间唯一不完全坦诚的事情。

言行不一


更重要的是OpenAI对人工智能监管的立场,奥特曼公开告诉参议院他支持这一法案，而事实表明，奥特曼的言行并不一致。
一方面，也许奥特曼头脑中的一小部分确实支持人工智能监管。
他多次提到奥本海默，表示他与曼哈顿计划的领导人同一天生日，也认识到了AI就像核武器一样，对人类构成严重风险。
用他自己在参议院所说的话说，「看，我们已经非常清楚地了解其中的风险……我最担心的是我们会造成负面影响，AI技术对世界造成巨大伤害。」
但在私下里，他的游说者不断推动放松AI监管，或者根本不监管。
参议院听证会1个月后，有消息称OpenAI正在努力淡化欧盟的人工智能法案。
当他于2023年11月因对董事会「始终不坦诚」而被OpenAI解雇时，Marcus并不感到惊讶。
当时，很少有人支持董事会解雇奥特曼的决定，大批支持者前来帮助他。
许多人是奥特曼的忠实粉丝，Marcus发现著名记者Kara Swisher在推特上屏蔽了他，仅仅因为Marcus暗示了董事会这样做可能有道理。
另外，奥特曼也利用了媒体。五天后，由于OpenAI的主要投资者微软的帮助，以及员工支持撰写请愿书，他被复职。
但自那以后，民众对于奥特曼的态度也发生了变化，近几个月来，对奥特曼的担忧和批评从小众到了附和不断。
记者Edward Zitron写道，奥特曼是「一个假先知，一个肮脏的骗子，利用他非凡的能力来打动和操纵硅谷的精英」。
彭博新闻社的Ellen Huet在播客Foundering上得出的结论是，「当奥特曼说某事时，你无法确定他是否真的是这个意思」。
人工智能先驱Geoffrey Hinton最近也开始质疑奥特曼的动机。
Marcus写了一篇名为《山姆·奥尔特曼剧本》的文章，剖析了他如何以表面谦逊的方式大肆宣传，成功地愚弄了大众这么长时间。

对于一些人来说，奥特曼人设崩塌的导火索是和演员斯嘉丽·约翰逊的纠纷。
斯嘉丽曾明确要求OpenAI不要用她的声音制作聊天机器人，而奥特曼随后使用了另一位配音演员，但声音明显与她相似，事情闹大后只能灰溜溜下架。
事实上，在名誉权和著作权上，OpenAI等大公司只向许多艺术家、作家提供很少的补偿，甚至可能根本没有。演员Justine Bateman将其描述为「美国历史上最大的盗窃案」。
与此同时，OpenAI长期以来一直口头上强调制定人工智能安全措施的价值，但几位与安全相关的关键员工纷纷离职。
联合创始人Ilya Sutskever离职，并将他的新公司命名为Safe Superintelligence，而前OpenAI员工Daniel Kokotajlo也警告说，有关安全的承诺正在被忽视。
OpenAI似乎也在堵住员工的嘴，这一现象更加加剧了OpenAI对安全的漠视。
今年5月，记者Kelsey Piper发现了一些文件，允许OpenAI从说公司坏话的前员工手中收回既得股票，这种做法令许多业内人士感到震惊。
今年5月，OpenAI董事会前成员Helen Toner 在Ted AI Show播客中表示，「多年来，奥特曼一直让董事会感到很为难……你知道，他隐瞒信息，歪曲了公司正在发生的事情，在某些情况下甚至是公然地歪曲事实并且对董事会撒谎。」

到了5月下旬，针对OpenAI及其首席执行官的负面新闻不断累积，以至于风险投资家Matt Turck在X上发布了一幅漫画，「自上次轻松避免OpenAI争议以来的天数：0。」

贪婪之罪


短暂的风暴之后，奥特曼仍然运营着OpenAI，并且在很大程度上仍然代表人工智能的公众形象。
他基本上按照自己的喜好重组了OpenAI的董事会，甚至就在2024年4月，国土安全部部长Alejandro Mayorkas还前往拜访了奥特曼，招募他加入国土安全部的人工智能安全委员会。
奥特曼的选择很可能以持久的方式影响全人类——而不仅仅是个人用户。






请到「今天看啥」查看全文


推荐文章
读嘉新闻  ·  裂开！太疼了！嘉兴女子早上起床后，发现吓人一幕……
昨天
读嘉新闻  ·  裂开！太疼了！嘉兴女子早上起床后，发现吓人一幕……
昨天
海陆物语  ·  “你就是开个集装箱回去，也会被塞满！”
2 天前
日本万象  ·  日本金牌媒婆改造大龄剩男，“土肥圆”秒变“精神小伙”，还收到和服美人的相亲请求！
3 天前
FM1007福建交通广播  ·  小S再发声：返台时间不对外公开！汪小菲妻子马筱梅接受台媒采访呼吁不要网暴
3 天前
FM1007福建交通广播  ·  小S再发声：返台时间不对外公开！汪小菲妻子马筱梅接受台媒采访呼吁不要网暴
3 天前
甘肃公安  ·  节日我在岗丨海报里的年味是守护
4 天前
甘肃公安  ·  节日我在岗丨海报里的年味是守护
4 天前
齐鲁晚报  ·  上班的你组团扫楼了吗?鹅厂初八开工盛况堪比"春运",第一名凌晨3点就开始排红包了…
8 年前
海蓝博士  ·  嫁入的是“嚎门”，不是豪门
7 年前
伊犁我的家  ·  千万别吃核桃！ 你以为只是好吃？看后惊呆了，一定要告诉家人
7 年前
环球物理  ·  【美国NASA与哈佛等名校之旅】探索全球最牛太空基地，与美国顶级名校学霸面对面交流！ ——史上最酷夏令营
7 年前
曾鸣书院  ·  曾鸣的课程，我们已经帮你划重点了
7 年前
Sov5搜索   ·   小百科   ·   今天看啥   ·   移动版
51好读 - 好文章就要读起来!