当 ChatGPT 的日活跃用户突破 1.2 亿，每天处理超过 10 亿次查询时，AI 已不再是一个高高在上的科技概念，而是深刻改变着人们的日常生活。在这场席卷全球的技术浪潮中，OpenAI CEO Sam Altman 无疑是最重要的领军人物之一。昨天，Altman 化身产品经理，在线发起了 2025 年的产品意见征集：what would you like openai to build/fix in 2025? 你希望 OpenAI 在 2025 年能打造或改进什么？
我们整理了网友的一些高赞回答，看看你更喜欢哪一项功能？同样在去年的 12 月份，Altman 也发起了类似的意见征集贴，2024 年即将过去，回顾 OpenAI 过去一年的产品，你觉得完成度如何？而在近日，《自由新闻》记者 Bari Weiss 更是对 Altman 进行了一次深度专访。「如果你回想我们在 2023 年 4 月时为之兴奋的 AI 技术，相比我们现在拥有的技术，那时的技术简直是原始的。」Altman 说。在他看来，AI 不仅是一项革命性技术，更可能像晶体管一样，成为推动人类社会进步的基础性力量。然而，OpenAI 的狂飙突进也带来了一系列挑战。今年以来，马斯克多次提起诉讼，试图阻止 OpenAI 推进其商业化进程。对此，Altman 并未否认马斯克前期对 OpenAI 的帮助，但也对他的行为嗤之以鼻。与此同时，除了非营利组织到商业化的转型所引发的争议，在 AI 安全和监管问题，中美技术竞争日趋激烈等关键议题上，Altman 也提供了关于他的视角和思考。AI 在近 18 个月内发展迅速，从 2023 年 4 月到 2024 年 12 月进步显著，ChatGPT 的搜索功能整合让 Altman 使用量翻倍，逐渐取代传统搜索引擎。Altman 预测「超级智能」将在未来几年出现，可能显著加快全球科技进步速度。开发模型需要巨额资金支持（或超过 1000 亿美元），对此，Altman 承认早期对营利模式的担忧有些「天真」。他强调非营利部门将继续存在，商业化不影响公司使命。马斯克多次起诉 OpenAI，质疑其商业化转型，Altman 表示最初推动营利转型的实际是马斯克，认为争议实质是关于 AI 控制权的竞争。Altman 支持适度监管，但反对过度监管抑制竞争，建议监管重点关注最前沿的 AI 技术，而非所有 AI 项目。他并不认同将 AI 与核武器完全类比，认为使用场景和影响很不同。对于中美 AI 竞争，Altman 承认存在 AI 军备竞赛，但主张通过领先和合作实现和平，强调美国需要加强国内 AI 基础设施建设和供应链，呼吁在竞争中保持清醒，避免过度对抗。Altman 认为完全中立的 AI 系统是不可能的，强调用户自由选择和系统默认设置的重要性，并主张在模型规格中保持透明度，公开说明任何修改。全文共 1.8 万个字，由 APPSO 编译，enjoy it~附上原视频地址：
https://www.youtube.com/watch?v=DfOt_cqXCFI&t=586s&ab_channel=TheFreePress
我 chat 了一下，AI 是如何在 18个月内进入我们的生活？Bari Weiss：Sam Altman，非常感谢你能来参加这个节目，真的感谢。Bari Weiss：我们上次交谈是在 2023 年 4 月，我知道从那以后你接受了无数次采访，但那次谈话似乎已经是很久以前的事了。
当时 ChatGPT 刚刚发布，人们才刚开始从抽象的层面试图理解这项技术是什么，以及它可能会如何改变他们的日常生活。而现在，坐在这里，已经是 2024 年 12 月了，ChatGPT 已经成了家喻户晓的名字，OpenAI 也是如此。当然，你的一些竞争对手也一样，比如 Perplexity、Gemini 和 Claude。普通美国人每天都在使用这些工具，从数学辅导到调试代码，再到撰写文稿，它们在这些方面表现非常出色。告诉我，ChatGPT 以及更广义上的 AI 技术自我们上次交谈以来的一年半时间里发生了怎样的变化？它是否达到了你今天的预期，还是已经超出了？Sam Altman：我认为这里有两个不同的方面需要讨论。如果你回想我们在 2023 年 4 月时为之兴奋的 AI 技术，相比我们现在拥有的技术，那时的技术简直是原始的。现在的技术能力令我感到非常震撼。但更令人震惊的是，在接下来的一年里，这种技术改进的速度。如果我们在 18 个月后再回来讨论它能做什么，我认为从 2023 年 4 月到 2024 年 12 月的技术差距，可能会像我们向前再看 20 个月的变化一样大，甚至更大。回到那个时候，它仍然是一个新奇的东西，许多人听说过它，但现在，人们确实大量使用它，不管是在工作还是个人生活中。我从未见过一项技术以这样的速度被广泛采用——不仅仅是人们随便尝试一下，而是他们真正开始像你提到的那样，在各个方面都使用它。所以，这种采用曲线比我想象的要快得多。我本来预计技术会发展得很快，但这种社会接受的速度还是超出了我的预期。Bari Weiss：你在日常生活中是如何使用你帮助创造的这个工具的？就像我认识的很多人在用它的方式一样，比如 Tyler Cowan 和很多热衷于技术的早期用户，几乎可以说它已经取代了他们的 Google。对他们来说，ChatGPT 就像是一个更深入、更强大的 Google。这是它的工作方式吗？Sam Altman：我用它来完成各种事情。但最新的一点是，几个月前我们发布了搜索整合功能，现在 ChatGPT 可以在互联网上搜索实时信息。在我们发布过的所有功能中，这个功能让我一下子把使用量翻了一倍。从那以后，我或许还用过 Google 做什么事情，但我已经记不清是什么了。而且我已经把 ChatGPT 设置为 Chrome 中的默认搜索引擎，从那之后，我再也没有回头看过传统的搜索方式。对于一个如此深深嵌入我行为模式中的东西，这种改变的程度让我印象深刻。现在，当我回想起过去的搜索方式时，我觉得，那种方式就像是「哦，天啊，那是个前 iPhone 时代」的感觉。这种行为上的转变，给我的感受就是这样的。这也是过去几个月让我最感到惊讶的变化——现在我所有的搜索都在 ChatGPT 里完成了。Bari Weiss：你怎么称呼它？你会叫它「搜索」吗，还是有一个像「Google」那样的动词？Sam Altman：一个动词？我还是叫它「搜索」。不过，我听说其他人，比如有些人会说「我用 chat 查了一下」或者「我 chat 了一下」。Sam Altman：对，尤其是年轻人，他们似乎只把它称为「chat」，但我还是说「搜索」。Bari Weiss：Sam，就在几个月前的 9 月，你在自己的网站上发表了一篇宣言，预测超级智能的出现会在未来几年，或者正如你令人印象深刻的说法，是在未来几千天内。给我们解释一下什么是超级智能。告诉我们如何知道它真的来了，以及它将在未来几十年如何改变人们的生活。Sam Altman：我用来构建自己思维框架的一种方式是观察科学进步的速度。如果全球科学进步的速度突然变为三倍，甚至是十倍，比如那些我们原本预计需要 10 年才能实现的发现或技术进步，每年都能实现，然后一代接着一代地累积下去。对我来说，这种状态会让我觉得超级智能已经到来了。我认为，这在很多方面会改变社会和经济的运行方式。但它不会改变的东西，我认为很多 AI 评论员对此有误解，那就是它不会改变人类深层次的基本驱动力。所以从这个意义上来说，我们已经经历了许多次技术革命，而那些我们倾向于关心的事情，以及驱动我们所有人的动力，大多数情况下几乎没有改变，或者完全没有改变。但我们所生存的世界将会发生巨大变化。Bari Weiss：好的，Sam，我们今天想和你进行这次对话的一个原因，不仅仅是因为我们想听你谈 AI 如何改变我们的生活和工作方式，还因为你目前正与 OpenAI 的原始联合创始人埃隆·马斯克陷入一场非常公开的争斗。我想可以这样说，大多数听众可能只是模糊地知道埃隆·马斯克和你之间的冲突，与他旗下的某家公司有关，或者他的许多公司之一。他们肯定没有在关注那些错综复杂的诉讼细节或整体冲突。我想尽量以最公正的方式为你总结一下，然后你告诉我是否有哪里说错了，或者我是否超出了限度。OpenAI 于 2015 年成立，并以非营利组织的形式起步。在同年 12 月的一篇博客文章中，你们向世界介绍了 OpenAI，你是这样写的：「OpenAI 是一家非营利的人工智能研究公司。我们的目标是以最有可能造福全人类的方式推进数字智能的发展，而不受产生经济回报的需求所限制。由于我们的研究没有财务义务，我们可以更好地专注于对人类的积极影响。」 这成为了 OpenAI 品牌的核心理念之一。到了 2019 年，OpenAI 转变为所谓的混合模式，也就是拥有一个盈利部门的模式。当年，微软对其进行了 10 亿美元的投资。从那以后，微软向 OpenAI 投入了大约 130 亿美元，或者可能是更高的数字。而埃隆从一开始就是 OpenAI 的联合创始人之一，但随着时间的推移，他与公司的关系恶化，因为他不同意我刚才描述的这种转变，即从非营利模式转向混合模式。最终，他离开了公司，并辞去了董事会职务。今年，埃隆迄今为止已经多次起诉你和 OpenAI。他还接受了许多采访，并在社交媒体上发布了无数条推文或「X」动态，内容都围绕这一冲突。他所有的诉讼都声称，你们在推进 AI 的过程中，将利润置于公众利益之上，从而违反了某种合同。而在上个月，也就是最近的进展中，埃隆要求加州的一位地区法官阻止 OpenAI 转换为这种盈利性结构。好了，这信息量有点大。我总结得对吗？有没有什么关键的点被遗漏了，或者哪里有误？Sam Altman：你的总结是对的，不过，实际上最初最想让 OpenAI 转变为盈利性机构的正是埃隆。他曾经提出过许多方案，比如让 OpenAI 成为特斯拉的一部分，或者创建一个全新的盈利机构，他将完全控制。所以除了这一点以外，你的总结基本上是正确的。我对此有很多想法和看法，但作为事实陈述，你的总结基本正确。Bari Weiss：请用一个高度概括的视角总结一下埃隆·马斯克与他的各种盟友（包括 Meta 在内）之间，以及你们之间的根本冲突是什么？这种分歧到底是什么？Sam Altman：我无法进入埃隆的脑海，所以这只是一些推测。埃隆确实在 OpenAI 的早期阶段做了很多贡献。尽管如此，我对此非常感激，并且我认为他是一个传奇的企业家，但他显然也是一个恶霸，并且显然喜欢与人争斗。目前是和我，之前是贝佐斯、盖茨、扎克伯格以及很多其他人。我认为从根本上来说，这和 OpenAI 做得非常好有关，而埃隆非常在意做得非常好。埃隆现在创立并运营了一家非常直接的竞争对手公司，这家公司试图做与 OpenAI 完全相同的事情。从结构上来看，我听说他的公司是一个公共利益公司（PBC），而且埃隆拥有多数股权和控制权，这似乎是他会做的合理的事情。我认为媒体在这一点上有很多错误报道。即使我们考虑了一些转换或发展想法，也并不意味着非营利机构会消失。非营利机构不会因为某些发展计划就停止成为非营利机构。我们公开讨论过，也许我们会将目前的 LLC 演变成 PBC，但无论我们做什么，都会加强非营利机构的作用。非营利机构将继续存在，我们也会继续努力实现相同的目标，也就是你之前提到的：开发这项不可思议的技术，以我们认为对人类最有益的方式开发，并将其推广到全世界。我们会继续这样做，我对我们迄今为止的表现感到非常自豪。正如你之前提到的，人们使用并喜欢 ChatGPT。ChatGPT 有一个不可思议的免费版本，我们在这上面亏了钱，它也没有广告支持或其他商业模式。我们只是想把 AI 放在用户手中。我们希望通过技术的部署，让人们与之共同进化、理解它，并经历目前全球在应对 AI 的过程中所经历的一切。最终，世界将面对 AGI（通用人工智能）的思考。我们正在做的一切都是朝着这个方向推进的。我相信，如果埃隆不掌控 OpenAI，他会为我们所做的一切感到高兴。他离开公司时认为我们会失败，并且他不想参与到一个他无法完全控制的 OpenAI 中。但我认为这些争议有点像无关紧要的闹剧。对我们来说，正确的做法是继续进行出色的研究，持续推出人们喜爱的产品，最重要的是，坚持追求「让 AGI 造福人类」的使命，并将其推向世界。Bari Weiss：对于刚刚接触这个话题的人来说，为什么 OpenAI 转换为盈利性公司，或者以你们一直在讨论的方式进行转换，对 OpenAI 的成长至关重要呢？为什么这是不可或缺的？Sam Altman：当我们创立 OpenAI 时，我们觉得很难回想起 2015 年的情况有多么不同。当时还没有语言模型和聊天机器人， ChatGPT 更是遥不可及。我们当时在进行研究，发表论文，研究可以玩电子游戏和控制机器人手的人工智能之类的东西。我们本来以为能筹到 10 亿美元，但最终没有成功。我们当时觉得，靠这 10 亿美元可以在我们试图实现的目标上取得实质性的进展。然而，随着我们不断深入学习并进入大规模语言模型的世界，我们意识到这不仅仅需要 10 亿美元，甚至不止 100 亿美元，而是可能需要超过 1000 亿美元的投入。而作为一家非营利机构，我们根本无法做到这一点。所以，这是转型的根本原因。关注 AI 第一新媒体，率先获取 AI 前沿资讯和洞察
Bari Weiss：那么，换句话说，也许可以这样理解：获得计算能力的支持对于创造这项技术来说是绝对必要的。Sam Altman：没错，而且其他所有从事AI的努力也已经意识到了这一点，并以某种方式设立了能够接触资本市场的机制。Bari Weiss：最近你对埃隆说了很多不同的话。在一次采访中，Andrew Ross Sorkin 问到你对这场冲突的感受时，你的回答是「感到难过」。你还说你认为埃隆的公司很棒。然后他问你，是否认为埃隆会利用他新获得的政治影响力来惩罚你、惩罚 OpenAI 或惩罚他的竞争对手。你在采访中表示，你认为他会做正确的事。这与你刚刚告诉我的话——埃隆是个欺凌者——怎么协调呢？欺凌者通常不会做正确的事吧？Sam Altman：我觉得这两件事是完全可以并存的。我认为有些人在推特上真的可能表现得很糟糕，但这并不意味着他们会滥用一个国家的体系——特别是在他们现在处于一个极具影响力的政治角色时。这对我来说是完全不同的事情。Bari Weiss：到目前为止，这场争斗——对于那些长期在线、时刻刷推特的人来说——主要通过推文、隐晦的推文进行，我们都在推特上实时关注这场冲突的进展。而 OpenAI 基本上处于一种回应模式，有时甚至是完全忽视的状态。我觉得这是可以这样描述的。这种状态在几天前发生了改变，你们在 OpenAI 的网站上发表了一篇非常非常长的备忘录。它像是一篇博客文章，推荐大家去阅读一下。这篇文章几乎完全是一条时间线，从 2015 年开始回顾，展示了你们的观点，通过电子邮件、短信截图及其解释，证明埃隆早在那时就对 OpenAI 成为一家盈利性机构持开放态度。我读了整整29页内容。如果有人不想读，可以去让 ChatGPT 总结一下。ChatGPT 告诉我，这是它的总结：「这篇文章详细描述了埃隆·马斯克与 OpenAI 领导层，尤其是 Sam Altman 之间的分歧，源于马斯克对 OpenAI 从非盈利模式转向混合盈利模式的不满。这场争端很重要，因为它突出了 AI 应该如何开发和控制的更广泛伦理难题——是否应该优先考虑公众利益还是公司利润，尤其是在强大的 AI 技术对社会和经济的影响日益增长的情况下。」Sam Altman：不，但关于你的总体观点，你是对的，我们确实没有在推特上来回争吵。这次发布声明的原因是我们必须提交法律文件，并希望提供一些背景说明。我们以前也曾因类似情况发布过一次声明，那也是因为我们不得不提交法律文件。我已经记不清埃隆起诉了我们多少次了，我想大概有 4 次吧。他撤回了、修改了，然后又申请临时禁令等等。我们的任务是以造福人类的方式构建 AGI，并找到安全且广泛分发它的方法。我们的任务不是与埃隆在推特上打嘴仗，但如果我们必须对法律文件做出回应，我们会这样做，有时也会提供背景说明。我想我们只做过两次这样的事情。Bari Weiss：在 OpenAI 早期阶段，它的品牌形象——至少在我看来——是透明和非营利性，这些是它反复强调的内容。你说过，你不能持有任何股份，你拿的薪水也很低，因为你说，「我不想有利益冲突。我想始终以最符合人类利益的事情为动力。」2015 年 12 月 OpenAI 刚成立后的第二天，你在接受《名利场》的采访时将其描述为一家「致力于拯救世界免于反乌托邦未来的非营利公司」。你还说过，试图让 OpenAI 成为一家盈利性公司将导致「与世界整体利益不一致的激励机制」，这是次优的选择。我想问一下，你是否仍然同意这个观点，还是只是因为开发这些模型需要数百亿资金而不得不适应现实？Sam Altman：两点。首先，我觉得自己当时有点错了。虽然我对这一点始终有担忧，但我对我们以及其他 AI 实验室在这方面的表现感到印象深刻。尽管它们有各种市场或经济激励机制，但它们确实非常专注于开发安全的模型。我认为这其中有很多因素。一方面，我们在技术发展的方向上有些幸运；但另一方面，如果你以一种对人类有害的方式部署这些模型，我相信你很快就会失去运营许可。这一点是显而易见的。当然，也有一些微妙的错误可能会发生，比如我认为社交媒体就是一个例子，当时可能没有明显的危害，但随着规模的扩大出现了一些突发性的属性。你可以想象类似的事情可能发生。但激励机制问题比我当时想象的要好一些。我愿意坦率地承认，10 年前我对世界的运行方式有些天真，而现在我对此感到更有信心。Sam Altman：来自社会的压力——尤其是对大公司的压力，以及研究人员推动他们的公司做正确事情的力量——即便是在巨大的利润动机面前，表现都还算不错。但有一件事我当时就不觉得天真，现在依然如此，那就是：这种事情竟然发生在少数几家私营公司手中，这让我依然觉得非常不可思议。对我而言，这感觉就像我们这个时代的曼哈顿计划或阿波罗计划。而这些计划不是由私营公司完成的，我认为这反而是一个功能良好的社会的标志。Bari Weiss：你认为我们需要一个曼哈顿计划吗？Sam Altman：我认为公司会做正确的事情，一切会顺利进行。而且在当前的世界里，我认为政府主导的努力根本行不通。老实说，即使它真的成功了，我也不觉得那是件好事。我只是希望我们生活在一个让我觉得那才是应该的方式并正在发生的世界里。Bari Weiss：Meta 现在显然站在了埃隆一边。几天前，Meta 要求加州检察长阻止 OpenAI 转变为营利性机构。他们在信中这样写道：「OpenAI 的行为可能会对硅谷产生巨大的影响。如果 OpenAI 的新商业模式被认可，那么非营利投资者将能够获得与传统方式投资盈利性公司相同的利润，同时还能够享受政府提供的税收减免。」 这呼应了马斯克去年说的话，他当时表示：「我很困惑，一个我捐赠过的非营利机构怎么会变成一个市值巨大的盈利性机构。换句话说，如果这是合法的，为什么大家不都这么做？」Sam Altman：我不知道 Meta 为什么要发那封信，但我知道他们知道事实并非如此。我知道在这些领域，没有人会因为非营利组织的捐赠而直接获益于某种盈利性股权。当然，他们也知道这一点。你可以想象 Meta 发这封信有很多其他的原因。比如，他们可能想讨好埃隆；他们可能觉得这样做有助于他们与我们竞争；或者他们可能因为认为我们对开源持反对态度而对我们感到不满——尽管我不认为这是准确的，也不是我所感受到的原因。我不知道，你可以去问问他们真正的原因是什么。Bari Weiss：对于普通人来说，听到这些可能会困惑：一个非营利组织如何变成一个盈利性机构？答案是什么？Sam Altman：非营利组织仍然是非营利组织。我相信 OpenAI 的非营利组织正在走上一条轨迹，我希望如果我们做得好，它将成为史上最大、最有影响力的非营利组织。非营利组织不会变成其他任何东西。就像其他许多事情一样，我们的生态系统中可以有一个盈利性的业务存在，但这并不意味着非营利组织会转变。非营利组织不会消失，也不会停止从事非营利性的事情。Bari Weiss：最终，Sam，谁将从 OpenAI 的成功中获利最多？Sam Altman：所有人。我告诉你，我希望每个人都可以用他们的比喻来描述这场技术革命最像什么。有人说这是工业革命，有人说这是电力革命，也有人说它像互联网。但我希望它像晶体管。我们发现了一项新的重要的基础性物理规律，或者你愿意叫什么都行。我们进行了大量研究，其他人也进行了研究，而它将渗透到经济、产品以及一切事物的各个方面。今天你我正在使用许多含有晶体管的设备，才让这次播客成为可能。计算机里有一些，你的麦克风里有一些，你我之间所有的互联网设备里都有很多，但我们并不会坐在这里去思考晶体管的存在。而晶体管公司也不会坐在这里赚取所有的财富。这一令人惊叹的科学发现已经渗透到我们生活的方方面面，每个人都从中赚到了钱。这就是我希望 AI 能够成为的样子，我认为这也是最好的类比之一。Bari Weiss：你有没有股份？或者你在这个新的盈利封顶公司中有什么样的权益？Sam Altman：目前我们还没有成立一个新实体。我们显然考虑过成立一个新实体，或者可能将我们现有的 LLC 转变为一个更准确的实体。我通过一个早期 YC 基金持有少量股份。我过去通过红杉资本基金持有一些股份，但那部分后来更容易出售，也没有继续保留。所以我持有的股份非常少，对我来说几乎没有意义。我未来是否会有股份，目前没有任何计划或承诺。如果我得到了什么，也不会像外界那些荒谬的传闻那样，传闻的数字是不可能发生的。Bari Weiss：你知道为什么人们对这个问题如此关注。Sam Altman：正如我之前多次说过的，如果我能回到过去，我会选择持有股份。我现在更能理解当初我的担忧为何是错位的。我也明白现在去持有股份会显得有些奇怪，毕竟之前没有。但另一方面，我真希望不用再回答这个问题，成为一家正常的公司，我管理它，有一些股权投资者，不需要担心我在其中是否有利益冲突。整个关于「没有任何股份」的怀疑气氛，是我对 OpenAI 结构中最遗憾的决定之一。但我理解为什么人们对它如此执着，这也很合理。Bari Weiss：如果你能回到过去，你会从一开始就怎么做？让我们把时间倒回到 2015 年。Sam Altman：如果当时有一个预言家能告诉我，在 2015 年 11 月之前：第二，尽管今天你完全不知道如何将其产品化，而且你认为自己是一个研究实验室，但最终你会变成一家能够产品化并形成商业模式的公司，这样你才能向投资者解释他们为什么不仅仅是在资助一个研究实验室；第三，参与这个领域的人们的激励机制将更自然地受到控制，因为它不会像我和许多人当时认为的那样，是一个遥遥领先于所有人的单一努力，而是更像晶体管那样逐步渗透到各个领域，并因此形成更好的平衡动态。如果一个预言家提前告诉我这三点内容，我会说：「很好，让我们成为一家公共利益公司（PBC）。」Bari Weiss：埃隆在推动 OpenAI 起步时有多关键？如果预言家也告诉你后来你们之间会发生这场冲突，而他是你曾经视为亲密朋友的人，你会说，「没关系，我可以自己完成」吗？Sam Altman：不会，他真的帮了很大的忙。我对此非常感激。Bari Weiss：我第一次看到埃隆·马斯克是在一个会议的舞台上，当时你在采访他。你们之间的互动非常棒，看起来像是非常好的朋友。他对你说了一些非常严厉的话，比如把你比作《权力的游戏》里的小指头（Littlefinger），最具杀伤力的一句话是：「我不信任他，我不希望世界上最强大的 AI 被一个不值得信任的人掌控。」他为什么这么说？Sam Altman：我想是因为他希望世界上最强大的 AI 由他来掌控。另外，我见过埃隆对许多人、包括我的很多朋友发起攻击。每个人都会有被他抨击过，但这些看起来都是他一贯的行为方式。Bari Weiss：我试图站在一个前朋友、前合作伙伴的角度，想象他说出那种话。我觉得你对这件事似乎相对冷静。Sam Altman：不，我对此当然很难过。我最近和一个我认为关系很亲近的人聊到这件事时，我说：「埃隆没有朋友，埃隆不做同伴，埃隆不交朋友。」这让我觉得很遗憾，因为我确实把他当作朋友。但我也不知道，我能以一种相对冷静的方式看待这件事。我记得他曾经说过 OpenAI 成功的可能性是零，说「你们这些人是笨蛋」，然后撤资并表示他会自己干。在那之后，有些时刻让我觉得他似乎想要和解，并找到一种合作的方式。但我也记得有些时候，他只是在推特上做自己的事。如果这些攻击只是针对我一个人，我觉得会更加痛苦。但你知道，他在推特上的行为，大家都看得见。所以我可以用一种相对不带个人感情的方式看待这些，把它当作关于埃隆的问题，而不是关于我的问题。但这仍然让我难受。我想，我花了很长时间才习惯这种感觉吧。Bari Weiss：最近在 OpenAI 网站上发表的那篇博客文章提到，埃隆应该「在市场上竞争，而不是在法庭上竞争」。当然，从一个愤世嫉俗的角度来看，正如你在这次谈话中暗示的那样，埃隆现在拥有一家与 OpenAI 竞争的公司 xAI，他起诉你们并不是因为他真的关心AI安全或者其他什么问题，而只是想参与竞争。对此你怎么看？愤世嫉俗的观点是真的吗？这真的是一场为了争夺市场主导地位的竞争吗？Sam Altman：你应该去问他。我希望你能邀请他来节目。Bari Weiss：好吧。你不仅被认为是世界上最重要的 AI CEO 和 AI 开发者之一，还被广泛认为是 AI 监管的积极倡导者。这里的一个愤世嫉俗的观点是，就像你可以质疑埃隆的动机一样，也可以认为你推动 AI 监管的方式是为了抑制竞争，从而使你的公司受益。显然，你以前听过这样的论点。Sam Altman：我认为过多的监管显然会对社会产生巨大的负面影响。目前在许多地方，我们的监管已经过多了。我是说，埃隆和其他大多数大型 AI 项目的负责人也都在积极呼吁 AI 监管。当你登上一架飞机时，你会觉得飞行的安全性非常高。当你在美国吃食物时，你不会太多考虑食品安全的问题。一些监管显然是好事。当然，我可以想象一些 AI 监管的版本可能会带来真正的问题，并对小型项目造成不利影响。我认为那会是一个真正的错误。但针对最强大的系统进行一些安全保护措施，这种措施应该只影响那些站在技术前沿的公司，比如 OpenAI 以及少数其他公司。我不认为我们目前的这些系统已经达到巨大的安全隐患级别，但我也不认为我们离那个程度还非常遥远。Bari Weiss：一些初创公司提出的论点，比如一家叫 Hugging Face 的 AI 初创公司（这个名字真有意思），还有一家叫 Stability AI 的公司的创始人。他们基本上在说，Sam 和其他大型公司，比如 OpenAI、Google 和苹果，正在试图通过政府的监管为自己建立护城河，并通过监管俘获来抑制竞争。你对此怎么看？这就像大科技公司和小科技公司之间的争论。这个问题可以用多种方式来诠释。对于那些说「我们想参与竞争，但像 Sam 这样的人的监管主张会伤害我们而有利于他们」的人，你有什么想说的吗？Sam Altman：如果他们的意思是说，「我们落后于 OpenAI，所以这不重要」，而我们呼吁的仅仅是针对前沿技术的监管，比如那些全新且未经测试的东西，而对于其他方面，比如想发布什么开源模型都可以，我觉得他们这样辩解是不合理的。我不知道。我很好奇你是怎么想的。如果我们成功了，开发出了一个超级智能，一个可能比整个人类加起来还要聪明、更有能力的计算机程序，你认为对此应该有任何监管吗？还是说他们会说「完全不需要」？Bari Weiss：我当然认为，首先，我甚至不太明白当我们谈论超级智能时到底在谈什么。你对它的含义和影响有着我完全不具备的理解，这是第一点。第二点，如果这项技术真的像你、埃隆以及其他很多与它接触更近的人所说的那样强大，那么我当然认为它应该以某种方式受到监管。至于如何监管、何时监管，显然是一个非常重要的问题。Sam Altman：如何监管以及何时监管确实非常重要。我同意这一点，我也可以很容易想象到这件事可能会出问题。Bari Weiss：最近，马克·安德森在这个节目中谈到他对拜登政府在 AI 技术方面所做努力的看法。他在节目中讲了一个他亲身经历的故事。他说，拜登政府试图完全控制 AI，他们的目标是让政府对 AI 的监管非常严格。用他的话说，这样最终只会有两到三家大公司能够与政府合作，而他们这样做的目的是为了保护这些公司免受竞争。这是真的吗？你知道他提到的是否与 OpenAI 有关，OpenAI 是不是其中之一？Sam Altman：我不知道他提到的具体内容。我也要非常明确地说，我认为任何减少 AI 竞争的监管都是非常糟糕的事情。Bari Weiss：所以，OpenAI 并不是那些公司之一？Sam Altman：不是，我其实不知道他说的是什么，但我们肯定不是。Bari Weiss：据我所知，你从未与拜登政府和其他 AI 公司一起出现在某个会议室里？Sam Altman：我甚至不认为拜登政府有足够的能力做到这一点。我是说，我们确实和他们一起开过会，但从来没有其他公司参与，也从来没有出现什么阴谋论之类的，比如「我们只允许少数几家公司能开发 AI」这种事情，从来没有发生过。Bari Weiss：你对拜登政府在 AI 和科技领域的总体态度怎么看？你刚才提到你觉得他们没有足够的能力。Sam Altman：我觉得 Gina Raimondo 很棒，我和她的每次对话都让我觉得她很明白其中的关键。不过总体来说，我认为这个政府的效率并不高。我认为他们应该优先考虑的事情——也是我希望下一届政府能够优先考虑的事情——是建立美国国内的大规模AI基础设施，以及在美国国内建立供应链等类似的事情。Bari Weiss：当马克来节目时，我请他试着为拜登政府的立场辩护，或者为AI应该受到严格监管的观点辩护。他基本上把这个问题类比为曼哈顿计划和原子弹的研发，当时政府认为有必要确保这一新科学和创新首先保持机密化。你觉得这个类比恰当吗？如果你同意这个类比，并且认为 AI 的力量与核武器相当，那是否意味着这应该是联邦政府的项目，而不是 OpenAI、Gemini 和 Claude 的项目？Sam Altman：我觉得所有的类比都有难点，因为它们在某些方面成立，但在其他方面又不成立。比如，你可以指出一些与核时代类似的事情。你可以谈到，比如浓缩铀需要巨大的资源和能量，而另一方面，生产这些模型也需要大量的资源和能量。所以你可以找到一些类似的地方。但使用这些模型和使用核武器是完全不同的事情，其政治影响也完全不同。我认为，如果要为那些说「这就像核武器」的人辩护，我觉得他们的意思是：这项技术极其昂贵，同时具有深远的地缘政治后果。我们不知道这些后果具体是什么，也不知道该如何看待它们。但正因为我们不确切知道这些后果是什么，难道我们不应该有一个让政府决定的原则吗？我可以想象，在历史上其他时期的其他政府中，我们会非常欢迎这种结果。但我认为，让当前的美国政府负责以比我们的竞争对手更快更好的方式开发 AGI，可能不会有好的结果。我认为，美国的国家能力的衰退并不是一个新观察，但却是一个令人悲哀的现象。Bari Weiss：在核时代的开端，我们国家有些人几乎像首席科学官一样发挥作用，对吧？我想到的是像万尼瓦尔·布什这样的人，他帮助启动了曼哈顿计划，创立了国家科学基金会，并在核能初期那些非常关键的几年中指导了美国的政策。现在有没有这样的人存在，不管他们是不是在华盛顿？如果我们想要有一个这样的人，他们理解这项技术，没有任何经济利益，并能够与总统无论是拜登、特朗普还是他们之后的领导人讨论，不仅仅是 AI 开发的问题，还有与中国的竞争问题，现在美国有没有这样的人？或者说，这个人可能是你？Sam Altman：我觉得这种意愿正在稍微恢复一点，但很长一段时间里，美国公众对科学和技术未来发展的热情已经消失了。如果让我选择一个时间点，我认为这种热情是在核武器出现时消失的。其实，在原子弹投放后，有几十年的「低迷期」，直到一代人更迭，那些经历过核弹时代的人变老并掌握权力后，我认为美国从未再像过去那样，完全拥抱科学和技术推动世界进步的兴奋感和信念。你读到那些关于过去人们所做事情的故事，会发现他们对科学技术是多么敬畏，人们相信科学技术的进步会更广泛地让世界变得更好。但这种信念现在似乎缺失了，我不认为这是因为我们缺少能够推动这一信念的个人，而是因为政府不想要，公众也不想要。Bari Weiss：不仅仅是政治氛围的变化，你怎么看我们自 11 月 5 日以来经历的这种文化氛围的变化？如果你在 8 周前跟我说这些，我会觉得 Sam 可能是对的。但现在感觉像是一个不同的国家。Sam Altman：确实有巨大的文化氛围变化，我认为在很多方面都有非常积极的动能。但我不确定这种变化是否包括「我们重新认为科学非常重要，科学会拯救我们，解决我们所有问题」的观点。你觉得有这种变化吗？还是说这是唯一一个我没感觉到的领域？Bari Weiss：我只是觉得现在的趋势更倾向于「增长是好事，技术进步是好事，虚无主义显得过时了，正在失去人们的青睐」。我感觉到这种变化正在发生，而且是以一种戏剧性的方式发生的。也许这是因为我花了很多时间在 X 平台上，这种趋势似乎在那里酝酿，然后从线上蔓延到了现实世界。所以，如果你去哥伦比亚大学找一个普通的博士生聊聊，我觉得他们可能不会有和我一样的感受，因为每个人的体验都太不同了。Sam Altman：我之前提到「分裂化」（balkanized），我觉得即使是在现场，这种情况也有所好转。我非常同意你提到的那种总体上对增长和成功、让国家和经济表现良好的兴趣的转变。我也部分同意我之前提到的观点，即我认为即使是对科学的兴趣，也比它曾经的最低谷要好一些了。但当你谈到那些被视为国家科学大使的人，以及那些人们真正愿意倾听和感到兴奋的科学倡导者时，我还是不太确定是否真的存在这种角色。我觉得这种兴奋更多是关于商业，而不是科学。Bari Weiss：嗯，有一家公司让我感到兴奋，或许这么说有些争议，但我确实觉得它的创始人是这个国家最有趣的人之一，那就是 Palmer Luckey 和他的公司 Anduril Industries。而 OpenAI 最近达成了一项协议，共同开发具有军事应用的AI。此前，OpenAI 曾明确禁止将其技术用于武器化。当然，现在的前提是你们专注于防御系统，比如可以防御无人机群攻击的系统，这或许与目前新泽西正在发生的事情有关。我想谈谈这个话题。是什么让你在根本上改变了主意，决定将公司的技术整合到甚至是防御性武器系统中？Sam Altman：我们建立了一套原则，并批准了符合这些原则的一些用例。但我认为，如果美国的领先努力不能帮助保卫美国及其盟友免受对手的威胁，我们将处于一个非常糟糕的境地。因此，我们需要找到应对这一挑战的办法。Bari Weiss：一年半前，当我们聊天时，部分讨论内容是关于我们是否正在进行与中国的 AI 军备竞赛。而现在，很明显，我们确实深陷与中国的 AI 军备竞赛中。即使是那些担心 AI 力量的人也会觉得，如果只能在我们和中国之间选择，那必须是我们获胜。Sam，你一定经常思考这个问题，能否为我们描绘一下，如果中国赢得 AI 军备竞赛，会发生什么？对美国来说会怎样？对世界来说又会怎样？Bari Weiss：你认为这种可能性是真实存在的吗？Sam Altman：是的，我的意思是，我们会拼尽全力确保这种情况不会发生。Bari Weiss：我们怎么知道他们是否在赢得这场竞赛？Sam Altman：这就是困难的地方，对吧？我们知道他们公开发布的内容，但不知道他们未公开的内容。我们有很多信号来源，也有情报系统。但就我个人立场而言，我们必须尽力合作。军备竞赛对所有参与者来说都是不利的。这是历史上我们一次又一次学到的教训，但如果有需要，我们也必须能够赢得这场竞赛。我希望这能成为促进世界和平的一个伟大契机，我相信如果有一个时机能让全人类团结起来，这似乎是一个很好的候选机会。我希望我们能达到那个目标。但我们不能对此抱有天真的想法。Bari Weiss：特朗普总统经常谈论通过实力实现和平。那么，Sam Altman 和 OpenAI 的「通过实力实现和平」版本是否意味着我们必须在 AI 领域击败对手，遥遥领先，从而让中国无从选择？Sam Altman：不是击败对手，而是需要领先，并且我们需要尽可能地愿意合作。我认为这在某种程度上类似于「通过实力实现和平」。也就是说，如果有一场军备竞赛，我们会赢，但我们并不希望有这场竞赛。Bari Weiss：意思是，如果有军备竞赛，我们希望赢，但我们根本不希望有这场竞赛，对吗？Sam Altman：但我们会赢。这甚至不只是这样。更像是，如果有任何可能以合作方式完成这件事的路径，我们就应该这样做，但我们无法控制其他实体的行为。Sam Altman：是的，我们与中国合作。实际上，我可以直接说，我认为我们经常在战略利益所在的领域与那些我们并不和睦的人合作。而我认为，这正是关乎全世界利益的一个领域，当然也是我们公司使命所决定的领域。如果真正的合作是可能的，我们就应该这样做。Bari Weiss：那我们现在在 AI 领域与中国进行合作吗？Sam Altman：你知道的可能比我还多？我本来想说，你可能确实比我了解更多。这将是新一届政府面临的一个重大问题，但这不会在公司层面上解决，而是会发生在两国总统的层面上。Bari Weiss：如果特朗普明天给你打电话说：「嘿，Sam，我想让你担任 AI 或 AI 监管的负责人，你可以在这个职位上做任何你想做的事情。」你首先会做什么？这个职位最重要的事情是什么？Bari Weiss：对那些不知道这是什么意思的人稍微解释一下。Sam Altman：在美国国内生产芯片，建立足够的能源供应来运行数据中心，改变现有的条件，在这里建设数据中心，但关键是要能够建立极其昂贵且复杂的供应链，以及极其昂贵的基础设施，这一切都要在美国完成。Bari Weiss：AI 中的偏见和审查是一个巨大的话题，也是我们在《自由新闻》中经常思考的议题。最明显的例子之一就是几天来人们热议的，并且大家都在嘲笑的事情——Gemini 生成了那些「黑人乔治·华盛顿」和「跨性别」的图像。虽然这很搞笑，但某种程度上这也是一个非常严肃的问题，因为这似乎只是这个问题的一个极端、夸张且显而易见的例子，而这个问题实际上是一个更深层次的系统性问题：这些技术中内嵌的偏见，不仅来源于编程这些技术的人，还来源于它们从互联网上抓取的信息。和我们聊聊你们在 ChatGPT 上是如何看待这个问题的吧，因为显然最接近现实的系统最终才会胜出。如果 ChatGPT告诉我乔治·华盛顿是跨性别者，我肯定不会再依赖它。你怎么看待偏见这个问题？你们是如何解决的？Sam Altman：我认为有两件事很重要。第一是用户在让系统按照他们想要的方式运行时的灵活性。我认为我们应该设定非常宽泛的界限。比如，有些事情显然是不允许的，比如你不希望一个系统告诉你如何制造核武器。好吧，这点我们都能达成共识。但如果你希望系统变得具有攻击性，并且你明确要求它这样做，我认为对齐的一部分就是在社会广泛认可的界限内完成用户的要求。第二件非常重要的事情是系统的默认设置。如果你不做任何个性化调整（大多数用户不会这么做），而是随便问一个有争议的问题，那么系统应该如何回应？我们在这两方面都投入了大量工作。我们还尝试写出模型应该如何表现的规范。我们称之为模型规格（model spec），这样你就可以判断出它是否是一个漏洞，还是你不同意我们的一些立场。Bari Weiss：是否有可能构建一个像 ChatGPT 这样的东西，或者其他我们甚至还无法想象的技术，这些技术完全没有政治观点？这难道不是不可避免的吗？Sam Altman：我认为，不管你试图让这个东西多么中立，它要么变得毫无用处，因为它会直接回答「我不能回答，因为任何问题都有政治背景」；要么它会表现出某种观点。这也是为什么我们认为可以做的是写下我们对默认设置的意图，人们可以就此展开辩论。如果存在漏洞，我们可以查找漏洞。如果我们对默认设置的定义有问题，我们可以改变定义并重新训练系统。但确实，我认为没有任何系统能够被所有人认为是完全无偏的。这也是个性化为什么如此重要的另一个原因。Bari Weiss：你认为 AI 或者 ChatGPT 有责任去对抗有害的思想吗？让我举一个例子来说明我的意思。比如说，如果你知道通过以一种极其微小的方式施加影响，你可能能够促成一个世界，那里种族主义、厌女症会减少，甚至可能会对人们来说是不可见的，因为他们根本不知道。在某种程度上，就像我们刚才讨论的，这可能会成为我们所有信息的控制层。你是如何看待这个问题的？Sam Altman：实际上，最近我在作为一个原则性问题思考一件事。OpenAI 完全没有采纳这一点，但这只是一个想法，我认为它触及到了你刚才提到的问题。假设我们发现了一些新东西，比如，如果 ChatGPT 总是以苏格拉底式的方法回应，或者其他方式，用户的学习效果会显著提高。但假设用户的偏好并不是想要苏格拉底式的回答，而是直接要求系统回答他们的问题。那么，在这种情况下，我们应该如何决定默认的行为？我最近越来越多地在思考一个想法：如果我们总是非常明确地说明我们对模型规格的任何修改会怎么样？这样你就不会像一些平台，比如推特那样，把一些东西隐藏在算法背后，用一些奇怪的方法来施加影响。我们会始终告诉你模型的预期行为是什么，如果我们对其进行了更改，我们会解释原因。但如果我们确实发现了像你刚才提到的那样的情况，或者像我刚才举例提到的情况，我们说，好吧，当用户在进行教育用途时，我们将使用苏格拉底式的方法，因为这确实似乎带来了可衡量的效果。那么我们可以说清楚为什么我们这么做，并且公开对此进行讨论。也许我们会改变默认设置。如果你有其他看法并说服了我们，任何人当然都可以在他们的用户偏好中更改默认设置，因为 AI 就像一个工具，应该做用户想要的事情。但我认为，错误的做法是我们更改了默认设置却没有在模型规范中反映这一点，也没有告知用户我们进行了更改。比如说，推特算法的「黑箱」让我感觉并不好。Bari Weiss：Sam，你曾向特朗普的就职典礼捐赠了 100 万美元，这引起了一些关注，因为过去你称他是种族主义者和阴谋论者等等。多年来，你一直是民主党候选人和事业的慷慨捐助者。但现在你说特朗普将引领我们进入 AI 时代，你很期待支持他确保美国保持领先的努力。这是心态的转变、政治立场的演变，还是你内心发生了某种「氛围转变」？到底发生了什么？Sam Altman：这可能是以上所有的原因。此外我也希望，因为他是我们的总统，我希望他能在任何方面取得成功。如果我们能够支持他在这方面的努力，那也是我们想做的。Bari Weiss：你的「氛围转变」是什么？我们知道硅谷和整个文化中都在发生一种「氛围转变」。过去几年里，你自己发生了怎样的变化？Sam Altman：我觉得发生了很多变化，其中之一是，在过去大约 10 到 12 年里，我看着事情变得偏离了正轨。在某些方面情况是好的，但在如何看待增长和经济成功的重要性以及对国家和整个世界更广泛的正确目标的关注上，我认为确实偏离了方向。而我会说，这种「氛围转变」是一种希望，希望在我们正面临技术历史上最重要的时刻之一时，能够推动「氛围转变」回到我深信不疑的方向，那就是增长是唯一正确的前进之路。Bari Weiss：你认为 OpenAI 的增长，以及 AI 更广泛的增长是一种爱国义务吗？Sam Altman：是的。我实际上写过类似的东西。有人刚刚把它发回给我，我大概在 10 多年前写过一篇文章，好像是我第一篇博客文章，内容是关于增长是民主运转良好的核心要素。我认为世界对这一点有了严重的误解，我很高兴看到它被重新看到。
