在2035年前实现AGI可能已经不再是科幻了，但是，我悲观地认为，因为电力和算力等资源限制，AI在未来并不会成为一种普惠资源，而是会在短期内加剧人类阶级的分化，并从根本上改变人类社会结构。长期来说……人类先作为一个智慧物种生存下来再说吧![[并不简单]](https://h5.sinaimg.cn/m/emoticon/icon/default/d_bingbujiandan-9955880b30.png)
#模型时代##ai探索计划# 山姆-奥特曼博客：我们将在几千天内实现超级智能。
OpenAI CEO山姆-奥特曼在o1发布之前，已经有段时间没有公开发表言论。北京时间今天凌晨，他刚刊发了一篇博客，完整表达了对未来“智能时代”的看法，并对超级智能的实现给出预测，“a few thousand days”，按照a few 的标准，快则3年，慢则10年，应该是合理的。
奥特曼表示，人类社会实际上即将迈过一道分水岭，一个由技术创造的分水岭，而这项技术就是深度学习。
“How did we get to the doorstep of the next leap in prosperity? In three words: deep learning worked.”
“我们是如何来到下一个繁荣飞跃的门槛的？用三个字概括：深度学习起效了。”
由这段话，足见奥特曼是技术进步主义者-虽然技术会带来负面因素，但是要实现繁荣，必须依靠技术。奥特曼将这项技术归功于深度学习，但是“深度学习教父”辛顿教授却担心深度学习的毁灭性力量离开了工业界。但是无论是乐观还是悲观，两个人骨子都是深信“深度学习起效了”。
对于何为超级智能，之前据披露出来的OpenAI内部判断，是能力覆盖的规模划分的：
1：聊天机器人，具有对话语言的人工智能
2：推理机，人类级别的问题解决能力
3：代理，可以采取行动的系统
4：创新者，能够帮助发明的人工智能
5：组织，可以完成组织工作的人工智能
目前OpenAI认为是第二级。那如果要在10年内实现超级智能，平均下来，每3年就要有一个大版本。
题外话：有传言说Anthropic明天会发布一个新机型。
山姆-奥特曼博客原文：
***
智能时代 （原文地址：ia.samaltman.com）
2024年9月23日
在未来的几十年里，我们将能够做到在我们的祖父母看来如同魔法般的事情。
这种现象并不新鲜，但它将以全新的速度加速。随着时间的推移，人类的能力已经显著提升；我们现在能够完成前人认为不可能的事情。
我们的能力增强并非源于基因的改变，而是因为我们受益于社会基础设施的智慧和能力远超我们任何一个人；从重要意义上说，社会本身就是一种高级智能。我们的祖辈——以及他们之前的几代人——建造并实现了伟大的成就。他们为人类进步的基石做出了贡献，我们都从中受益。
人工智能将为人们提供解决难题的工具，帮助我们为这个基石添加我们无法自行构建的新支柱。进步的故事将继续，我们的孩子将能够做到我们无法做到的事情。
这不会一蹴而就，但我们很快就能与人工智能合作，帮助我们完成远超没有人工智能时所能完成的事情；最终，我们每个人都可以拥有一个个人的人工智能团队，汇集各个领域的虚拟专家，一起创造几乎任何我们能想象的东西。我们的孩子将拥有虚拟导师，可以在任何科目、任何语言中，以他们需要的任何进度提供个性化的指导。我们可以想象类似的理念应用于更好的医疗保健、创造任何人们能设想的软件，以及更多。
凭借这些新能力，我们可以实现今天看来难以想象的共同繁荣；在未来，每个人的生活都可以比现在任何人的生活更美好。仅有繁荣并不一定使人们幸福——有很多不快乐的富人——但它将实质性地改善全球人们的生活。
我们可以从一个狭隘的角度来看待人类历史：经过数千年的科学发现和技术进步的积累，我们已经学会了如何熔化沙子，添加一些杂质，以惊人的精度在极其微小的尺度上将其排列成电脑芯片，通过它传递能量，最终得到能够创造越来越强大人工智能的系统。
这可能成为迄今为止人类历史中最具影响力的事实。有可能我们将在几千天内拥有超级智能（！）；可能需要更长时间，但我相信我们会实现这一目标。
我们是如何来到下一个繁荣飞跃的门槛的？
用三个单词概括：深度学习起效了。
用十五个单词来说：深度学习起效了，随着规模的扩大可预测地变得更好，我们投入了越来越多的资源。（In 15 words: deep learning worked, got predictably better with scale, and we dedicated increasing resources to it.）
事实就是如此；人类发现了一种算法，能够真正学习任何数据分布（或者说，产生任何数据分布的底层“规则”）。令人震惊的是，计算能力和数据越多，它在帮助人们解决难题方面的能力就越强。我发现，无论我花多少时间思考这一点，都无法真正内化其深远的影响。
我们还有许多细节需要弄清楚，但被任何特定的挑战分散注意力都是一个错误。深度学习起效了，我们将解决剩下的问题。我们可以对接下来可能发生的事情说很多，但主要的是，人工智能将随着规模的扩大而变得更好，这将为全球人们的生活带来有意义的改善。
人工智能模型很快将作为自主的个人助理，代表我们执行特定任务，例如为你协调医疗护理。未来的某个时刻，人工智能系统将变得如此强大，以至于它们帮助我们制造更好的下一代系统，并在各个领域取得科学进步。
技术将我们从石器时代带到了农业时代，然后是工业时代。从这里开始，通往智能时代的道路由计算力、能源和人类意志铺就。
如果我们想把人工智能交到尽可能多的人手中，我们需要降低计算成本并使其充足（这需要大量的能源和芯片）。如果我们不建立足够的基础设施，人工智能将成为一种非常有限的资源，可能引发战争，并主要成为富人的工具。
我们需要明智且坚定地行动。智能时代的黎明是一项重大发展，伴随着非常复杂和极高风险的挑战。这不会是一个完全积极的故事，但潜在的好处是如此巨大，我们有责任为自己和未来弄清楚如何应对面前的风险。
我相信未来将是如此光明，以至于没有人能通过现在的文字来公正地描述它；智能时代的一个决定性特征将是巨大的繁荣。
虽然这将逐步实现，但令人惊叹的胜利——解决气候问题、建立太空殖民地，以及发现所有的物理学——最终将变得司空见惯。拥有近乎无限的智能和充足的能源——产生伟大想法的能力，以及实现它们的能力——我们可以做很多事情。
正如我们在其他技术中看到的那样，也会有负面影响，我们需要从现在开始努力，最大化人工智能的益处，同时将其危害降至最低。举个例子，我们预计这项技术在未来几年内会对劳动力市场造成重大变化（有好有坏），但大多数工作岗位的变化速度将比大多数人想象的更慢，而且我不担心我们会无事可做（即使它们在今天看来不像“真正的工作”）。人们天生就有创造和对他人有用的欲望，人工智能将使我们以前所未有地放大自己的能力。作为一个社会，我们将回到一个不断扩张的世界，我们可以再次专注于进行正和博弈。
我们今天所做的许多工作，在几百年前的人们看来，可能是琐碎且浪费时间的，但没有人回头看过去，想着希望自己是个点灯人。如果一个点灯人能看到今天的世界，他会认为周围的繁荣是难以想象的。而如果我们能快进到一百年后的今天，我们周围的繁荣也会让人感觉同样难以想象。
OpenAI CEO山姆-奥特曼在o1发布之前，已经有段时间没有公开发表言论。北京时间今天凌晨，他刚刊发了一篇博客，完整表达了对未来“智能时代”的看法，并对超级智能的实现给出预测，“a few thousand days”，按照a few 的标准，快则3年，慢则10年，应该是合理的。
奥特曼表示，人类社会实际上即将迈过一道分水岭，一个由技术创造的分水岭，而这项技术就是深度学习。
“How did we get to the doorstep of the next leap in prosperity? In three words: deep learning worked.”
“我们是如何来到下一个繁荣飞跃的门槛的？用三个字概括：深度学习起效了。”
由这段话，足见奥特曼是技术进步主义者-虽然技术会带来负面因素，但是要实现繁荣，必须依靠技术。奥特曼将这项技术归功于深度学习，但是“深度学习教父”辛顿教授却担心深度学习的毁灭性力量离开了工业界。但是无论是乐观还是悲观，两个人骨子都是深信“深度学习起效了”。
对于何为超级智能，之前据披露出来的OpenAI内部判断，是能力覆盖的规模划分的：
1：聊天机器人，具有对话语言的人工智能
2：推理机，人类级别的问题解决能力
3：代理，可以采取行动的系统
4：创新者，能够帮助发明的人工智能
5：组织，可以完成组织工作的人工智能
目前OpenAI认为是第二级。那如果要在10年内实现超级智能，平均下来，每3年就要有一个大版本。
题外话：有传言说Anthropic明天会发布一个新机型。
山姆-奥特曼博客原文：
***
智能时代 （原文地址：ia.samaltman.com）
2024年9月23日
在未来的几十年里，我们将能够做到在我们的祖父母看来如同魔法般的事情。
这种现象并不新鲜，但它将以全新的速度加速。随着时间的推移，人类的能力已经显著提升；我们现在能够完成前人认为不可能的事情。
我们的能力增强并非源于基因的改变，而是因为我们受益于社会基础设施的智慧和能力远超我们任何一个人；从重要意义上说，社会本身就是一种高级智能。我们的祖辈——以及他们之前的几代人——建造并实现了伟大的成就。他们为人类进步的基石做出了贡献，我们都从中受益。
人工智能将为人们提供解决难题的工具，帮助我们为这个基石添加我们无法自行构建的新支柱。进步的故事将继续，我们的孩子将能够做到我们无法做到的事情。
这不会一蹴而就，但我们很快就能与人工智能合作，帮助我们完成远超没有人工智能时所能完成的事情；最终，我们每个人都可以拥有一个个人的人工智能团队，汇集各个领域的虚拟专家，一起创造几乎任何我们能想象的东西。我们的孩子将拥有虚拟导师，可以在任何科目、任何语言中，以他们需要的任何进度提供个性化的指导。我们可以想象类似的理念应用于更好的医疗保健、创造任何人们能设想的软件，以及更多。
凭借这些新能力，我们可以实现今天看来难以想象的共同繁荣；在未来，每个人的生活都可以比现在任何人的生活更美好。仅有繁荣并不一定使人们幸福——有很多不快乐的富人——但它将实质性地改善全球人们的生活。
我们可以从一个狭隘的角度来看待人类历史：经过数千年的科学发现和技术进步的积累，我们已经学会了如何熔化沙子，添加一些杂质，以惊人的精度在极其微小的尺度上将其排列成电脑芯片，通过它传递能量，最终得到能够创造越来越强大人工智能的系统。
这可能成为迄今为止人类历史中最具影响力的事实。有可能我们将在几千天内拥有超级智能（！）；可能需要更长时间，但我相信我们会实现这一目标。
我们是如何来到下一个繁荣飞跃的门槛的？
用三个单词概括：深度学习起效了。
用十五个单词来说：深度学习起效了，随着规模的扩大可预测地变得更好，我们投入了越来越多的资源。（In 15 words: deep learning worked, got predictably better with scale, and we dedicated increasing resources to it.）
事实就是如此；人类发现了一种算法，能够真正学习任何数据分布（或者说，产生任何数据分布的底层“规则”）。令人震惊的是，计算能力和数据越多，它在帮助人们解决难题方面的能力就越强。我发现，无论我花多少时间思考这一点，都无法真正内化其深远的影响。
我们还有许多细节需要弄清楚，但被任何特定的挑战分散注意力都是一个错误。深度学习起效了，我们将解决剩下的问题。我们可以对接下来可能发生的事情说很多，但主要的是，人工智能将随着规模的扩大而变得更好，这将为全球人们的生活带来有意义的改善。
人工智能模型很快将作为自主的个人助理，代表我们执行特定任务，例如为你协调医疗护理。未来的某个时刻，人工智能系统将变得如此强大，以至于它们帮助我们制造更好的下一代系统，并在各个领域取得科学进步。
技术将我们从石器时代带到了农业时代，然后是工业时代。从这里开始，通往智能时代的道路由计算力、能源和人类意志铺就。
如果我们想把人工智能交到尽可能多的人手中，我们需要降低计算成本并使其充足（这需要大量的能源和芯片）。如果我们不建立足够的基础设施，人工智能将成为一种非常有限的资源，可能引发战争，并主要成为富人的工具。
我们需要明智且坚定地行动。智能时代的黎明是一项重大发展，伴随着非常复杂和极高风险的挑战。这不会是一个完全积极的故事，但潜在的好处是如此巨大，我们有责任为自己和未来弄清楚如何应对面前的风险。
我相信未来将是如此光明，以至于没有人能通过现在的文字来公正地描述它；智能时代的一个决定性特征将是巨大的繁荣。
虽然这将逐步实现，但令人惊叹的胜利——解决气候问题、建立太空殖民地，以及发现所有的物理学——最终将变得司空见惯。拥有近乎无限的智能和充足的能源——产生伟大想法的能力，以及实现它们的能力——我们可以做很多事情。
正如我们在其他技术中看到的那样，也会有负面影响，我们需要从现在开始努力，最大化人工智能的益处，同时将其危害降至最低。举个例子，我们预计这项技术在未来几年内会对劳动力市场造成重大变化（有好有坏），但大多数工作岗位的变化速度将比大多数人想象的更慢，而且我不担心我们会无事可做（即使它们在今天看来不像“真正的工作”）。人们天生就有创造和对他人有用的欲望，人工智能将使我们以前所未有地放大自己的能力。作为一个社会，我们将回到一个不断扩张的世界，我们可以再次专注于进行正和博弈。
我们今天所做的许多工作，在几百年前的人们看来，可能是琐碎且浪费时间的，但没有人回头看过去，想着希望自己是个点灯人。如果一个点灯人能看到今天的世界，他会认为周围的繁荣是难以想象的。而如果我们能快进到一百年后的今天，我们周围的繁荣也会让人感觉同样难以想象。
