奥尔特曼新年发文：OpenAI开始将注意力转向“超级智能”

财联社AI daily · 公众号 · 科技自媒体 · 2025-01-06 20:24

主要观点总结

OpenAI首席执行官Sam Altman表示公司有信心构建通用人工智能（AGI），并开始将目标转向超级智能。他强调了克服当前人工智能技术的局限性和扩大广泛利益的重要性。OpenAI对通用人工智能有自家定义，并与微软有特定协议。关于超级智能，奥尔特曼表示可以加速科学发现和创新，增加财富和繁荣，但安全运行是最大的挑战，尤其是防止人工智能系统失控。

关键观点总结

关键观点1: OpenAI的目标转向通用人工智能和超级智能

OpenAI计划构建通用人工智能，并已经开始将目标转向超级智能。首席执行官Sam Altman强调了公司的信心和对此目标的追求。

关键观点2: 关于通用人工智能的定义和挑战

OpenAI和其紧密投资伙伴微软对通用人工智能有不同的定义。构建通用人工智能面临重大的技术挑战和局限性，但OpenAI似乎有信心克服这些困难。

关键观点3: 超级智能的愿景和挑战

奥尔特曼谈到了超级智能的愿景，表示可以加速科学发现和创新，增加财富和繁荣。然而，安全运行是最大的挑战，尤其是如何防止人工智能系统失控，这是一个尚未解决的问题。

关键观点4: OpenAI面临的挑战：如何确保超级智能系统的安全运行

随着OpenAI将重点转移到超级智能上，如何确保超级智能系统的安全运行成为关键。人类可能无法可靠地监督比人类聪明得多的人工智能系统，这是当前最大的技术和道德挑战。

正文

OpenAI将有信心构建通用人工智能（AGI），并且公司已经开始将目标转向“超级智能（superintelligence）”。

文|周子意

OpenAI首席执行官Sam Altman在1月6日的最新个人博客中写道，OpenAI将有信心构建通用人工智能（AGI），并且公司已经开始将目标转向“超级智能（superintelligence）”。

奥尔特曼还指出，“我们热爱现在的产品，但我们在这里是为了辉煌的未来。”

目前来看，当今的人工智能技术仍存在重大的技术局限性，不仅是一些显而易见的错误，对模型的训练还非常昂贵。

不过，奥尔特曼似乎有信心克服这一切，而且能很快解决。奥尔特曼称，“我们非常有信心，在未来几年内，每个人都会看到我们所看到的，而且在最大限度地扩大广泛利益和赋权的同时，需要非常谨慎地采取行动，这一点非常重要。”

▌构建通用人工智能

构建通用人工智能（AGI）一直是OpenAI的一大目标，即便通用人工智能现在还是一个模糊的术语。OpenAI对其有自己的定义，即在最具经济价值的工作上表现优于人类的高度自主系统。

而OpenAI和其紧密投资伙伴微软间则对AGI的有着另一种定义，即至少能产生1000亿美元利润的人工智能系统。根据两家公司此前的协议，当OpenAI实现这一目标时，微软将无法再获得其技术。

在最新博客中，奥尔特曼并没有明确表明他所指的是哪个定义下的通用人工智能，但前者的可能性似乎最大，因为奥尔特曼写道，“到2025年，我们可能会看到第一批AI代理（可以自主执行某些任务的人工智能系统）加入劳动力大军，并实质性地改变公司的产出。”

奥尔特曼还指出，“我们仍然相信，以迭代的方式地将伟大的工具交到人们手中，会带来伟大的、广泛分布的结果。”

▌“超级智能”愿景

谈及超级智能，奥尔特曼在文中写道，OpenAI正开始将目标转向真正意义上的超级智能，“有了超级智能，我们可以做任何其他事情。超级智能工具可以极大地加速科学发现和创新，远远超出我们自己的能力，进而大大增加财富和繁荣。”

此前，OpenAI也已经好几次撰文提到了关于如何成功过渡到一个拥有超级智能的世界。例如2023年12月OpenAI的一篇文章中提到，“我们相信，超级智能可以在未来十年内发展出来。”2024年9月，奥尔特曼指出，超级智能将可能在“几千天”之后出现，而且它的到来将“比人们想象的更强烈”。

随着OpenAI将重点转移到它所认为的超级智能上，人们希望，该公司会投入足够的资源来确保超级智能系统的安全运行。

但安全运行似乎正是目前最大的问题是，人类似乎没有办法操控或控制一个潜在的超智能人工智能系统，以防止它失控。即使是提出这一想法的OpenAI，也没有答案。

该公司也曾多次指出，“人类将无法可靠地监督比我们聪明得多的人工智能系统，因此我们目前的校准技术无法扩展到超级智能，”这是“远不能保证”的。