主要观点总结
这篇文章主要介绍了关于人工智能（AI）在2024年的发展和影响的各种观点和预测，包括AGI和ASI的讨论，AI对职业的影响，AI在科研领域的应用，以及AI带来的伦理和社会问题。文章还提到了四大研究奇点，即写作和发表、研究、研究的含义以及研究的内容的变化和挑战。
关键观点总结
关键观点1: AI的发展正在逐步逼近AGI和ASI的节点，可能会带来职场革命和新的职业机会。
文章讨论了AI的快速发展对职业的影响，特别是在自动化和智能体方面的应用。AI的发展可能取代一些传统工作，但同时也会创造出新的职业机会。
关键观点2: AI在科研领域的应用正在改变研究的方式和本质。
文章强调了AI在科研领域的广泛应用，包括辅助写作、研究开展方式的变化以及自主智能体的研究。AI可以帮助科学家加快研究进度，发现错误，并探索新的研究领域。
关键观点3: AI的发展带来了伦理和社会问题，需要建立有效的国际治理机制来应对。
文章提到了AI决策可能带来的风险，包括操纵公众舆论、破坏社会根基等。同时强调了建立有效的国际治理机制的紧迫性，以确保人类能够掌控AI的发展。
关键观点4: 四大研究奇点的出现将改变学术界和公众之间的隔阂。
文章提出了四大研究奇点：写作和发表、研究、研究的含义以及研究的内容的变化和挑战。这四大奇点的出现将有助于架起学术界与现实世界的桥梁，促进跨学科合作，重启创新引擎。
正文
【新智元导读】进入25年，ASI正在逐月逼近！美国一份报告显示，未来20年内，约47%的工作岗位将会被自动化取代！我们做好准备了吗？
在2023年末和2024年中，DeepMind和OpenAI分别放出了对于AGI等级的定义。我们亲眼见证了，今年的AI如何在逐步攀升AGI高峰。显然，2024是旋风般的一年。而在2025年，我们有理由相信会看到更多的进步。我们迟早会看到，科学和数学的进步将以非常真实的方式触及和改变我们的生活，起初会很迟缓，然后在某一刻变得突然。OpenAI CEO奥特曼则暗示，18个月后，2026年夏天，我们将见证奇迹。而ASI诞生之后的人类，只有两种可能：要么「走向永生」；要么「走向灭绝」。对此，AI教父Hinton已经发出预警了，10年内，AI可能会导致人类的灭亡！
一份美国报告研究显示，在未来20年内，约47%的美国工作岗位可能被自动化。而且，每增加一个机器人，就会导致当地经济损失约5.6个工作岗位。这些触目惊心的数字背后，折射出的是一场正在悄然发生的职场革命——2023年，美国编剧工会，美国演员工会罢工，让所有人清晰看到了AI对「知识工作者」构成的真实威胁。但实际上，生成式AI和先进技术带来的挑战，早已波及到了多个行业。那么，哪些工作岗位将面临被AI自动化，甚至取代的风险？如果工作内容与AI潜在能力高度相似，那么工作者就可能受到包括AI在内数字技术的影响。不可否认的是，AI加速迭代能够提升人们生产效率，但同时也有取代人类工作的风险。以伊利诺伊州为例，研究估计有14%-25%的劳动力岗位面临着工作被自动化的高风险，这意味着，高达150万工作者可能受到影响。此外，约有23.7万到41.7万名工人面临着极高风险。而在建筑行业中，约49%的工作任务可能被自动化取代。对此，有网友表示，「这个问题本质上可以归结为我们是否能拥有通用型机器人。如果有了通用机器人，就意味着所有工作都会受到影响；如果没有通用型机器人，那么只有一半的工作岗位会受到影响，因为AI只能取代基于计算机的工作」。有人则反驳道，你低估了现如今机器人的现状，并甩出了一长串，关于机器人走进岗位的各种报道。不过，至少在20年后，我们将拥有一批今天不存在的职业。
Reddit上的singularity社区，举办了年度奇点预测活动。首先发言的，是OpenAI o1。它认为，2024年关于AI的讨论已经达到了历史最高水平。生成式AI引发了关于效率、创造力、道德和人类智慧本质的讨论。通向AGI乃至ASI的旅程仍然很复杂，但每一年，我们都有了实实在在的进步。而社区的网友们普遍认为，库兹韦尔对于2029年的预测的准确的。AGI和ASI的发生，就在2029-2030年。不过，那时的AI模型应该会有革命性的架构变化，而非如今的LLM路线。但毫无疑问，所有人心里都承认：我们的确离AGI越来越近了。
2023年，在对2,778名AI研究人员的一项调查显示，AGI实现有50%的可能性在23-92年之间。然而，时间跨度仅过去了一年，最新调查却显示，16.6%受访者认为AGI会在5年或更短的时间内实现
对于那些还未毕业，走进正式工作岗位之前的博士生们，如何应用AI带来的挑战？毕竟，o3的出世，尤其是在数学编程方面，真正达到了博士级水平。许多网友表示，未来每个人的口袋里都会有一个「超级智囊」。对此，来自沃顿商学院的Ethan Mollick教授在「四大研究奇点」这篇长文中，详细阐述了AI崛起带来的危与机，并为博士提供了一个「生存指南」。他表示，「作为一名商学院教授，我深知研究表明，在1,016个职业中，商学院教授是与AI任务重叠度最高的25个职业之一」。但重叠并不一定意味着替代，而是意味着颠覆性变革和改变。早在ChatGPT崭露头角之前，学术界就已经面临着一个令人担忧的困境——表面上看，学术论文数量在持续增长，但实质性的创新步伐却在悄然减速。事实上，一项研究发现，从农业到癌症研究，各个领域的突破性进展都在放缓，而且创新速度每13年就会下降一半。其中的原因错综复杂，但有一点可以明确的事，这场危机将发生，但AI并非是危机的源头。实际上，AI可能会成为解决方案的一部分，但在此之前它会先创造出新的问题。Mollick表示，自己更愿意把AI在科学研究中带来的变革称为「奇点」，而非「危机」。这里的奇点是「狭义的奇点」，指的是未来某个时点——AI已经深刻改变了某个领域或行业，以至于我们无法完全想象奇点之后的世界是什么样子。而在学术领域，我们正在面临至少四个这样的奇点时刻。每一个奇点都可能从根本上重塑学术研究的本质，要么成为重启创新引擎的奇迹，要么加剧现有的危机。征兆已经出现，而现在，我们只需要决定在奇点之后要做什么。
回顾2024，这是惊心动魄的一年，见证历史的一年。吴恩达总结了2024年AI圈的热门故事：AI智能体崛起，LLM token价格暴跌，生成式视频迎来爆发期，小模型异军突起。吴恩达也强调，如今，那些处于AI前沿的人，和那些甚至一次都没用过ChatGPT的人，他们之间的差距已经越来越大。这一年，集成开发环境中有越来越多的智能体开始生成代码，比如Devin、OpenHands、Replit Agent、Vercel的V0和Bolt等。2024年年底，OpenAI推出了o1模型和o1 pro模式，该模式使用代理循环逐步完成提示。DeepSeek-R1和Google Gemini 2.0 Flash Thinking Mode也遵循类似的代理推理。在2024年的最后几天，OpenAI发布了o3和o3-preview，进一步扩展了o1的代理推理能力，效果惊艳。CoT、Reflexion、测试时计算等技术的兴起，让智能体更加繁盛。Agent的时代即将到来！同时，我们也见证了LLM token价格的暴跌。今年，AI提供商之间的价格战，打得是轰轰烈烈。从2023年3月到2024年11月，OpenAI模型云访问的单个token价格降低了90%。2023年底，GPT-4 Turbo亮相时，每百万token的输入/输出为10.00美元/30.00美元。比如谷歌Gemini 1.5 Pro，价格已削至每百万token的输入/输出为1.25美元/5.00美元。亚马逊的Nova Pro，则已低至0.80美元/3.20美元。
Sora引发了全球轰动，随后的Runway Gen 3、Adobe Firefly Video、Meta Movie Gen、King AI、PixVerse、PixelDance等也加入战场。未来，AI视频仍有较大的改进空间。大多数模型一次仅生成少量帧，因此可能很难跟踪物理和几何形状，并随着时间推移生成一致的角色和场景。2024年，许多LLM已经足够小，小到可以在智能手机上运行。顶级AI公司也把一部分资源投给小模型，比如Microsoft Phi-3（参数最低38亿）、Google Gemma 2（最低20亿）和 Hugging Face SmolLM（最低1.35亿）。而这些小模型，极大地扩展了我们对成本、速度和部署的选择空间。Jim Fan：24年，6点震撼
英伟达高级研究科学家Jim Fan，从6个方面总结了2024年。首先，是高端类人机器人的崛起，包括特斯拉Optimus、1X Neo、波士顿动力、GR-1、西部世界克隆等等。接下来是具身智能的进展：特斯拉FSD v12、英伟达GR00T、HOVER、DrEureka、斯坦福OpenVLA等，让机器人大脑有了更多进步。而英伟达Blackwell架构、Jetson Nano Super、谷歌Willow芯片，将计算硬件带入全新的领域。视频生成和世界建模，也迈进了一大步。包括Sora，Veo，GameNGen、Oasis、GENIE-2等行动驱动的世界模型，以及李飞飞的World Labs。在LLM方面，Claude 3.5 Sonnet、Gemini 1.5 pro、o1和o3不断给我们新的冲击。真正的AGI测试，是完成这个序列：4o -> o1 -> o3 -> (?)。GPT-4o实时语音模型、NotebookLM等，带给了我们LLM体验的最佳重新构想。最后，在AI4Science上，今年的诺贝尔物理学奖和化学奖，都给了所有人亿点点震撼。
在2024年12月的演讲中，联合国秘书长古特雷斯提到——人类命运不能交由算法决定。如今的AI模型变得越来越强大、越来越通用、越来越容易获取——不仅能结合语言、图像、声音和视频，还能实现决策自动化。AI不仅在重塑我们的世界——它正在彻底改变世界。过去需要多年人类专业知识才能完成的任务，现在转瞬之间就能完成。这种快速增长超出了人类治理的能力，引发了关于问责、平等、安全和保障的根本性问题。也引发了关于人类在决策过程中，应该扮演怎样角色的问题。AI工具可以识别粮食不安全状况，预测极端事件和气候变化导致的人口流离失所。但是，AI也以更令人担忧的方式进入战场。最关键的是，AI正在削弱人类控制武力使用这一基本原则。据报道，从基于情报的评估到目标选择，算法已经被用于人类的生死决策。AI与其他技术的融合，更是呈指数级放大了这些风险——未来，量子AI系统可能在一夜之间突破最强大的防御，重写数字安全规则。我们必须明确的是：人类的命运绝不能交给算法的「黑匣子」。既然人类创造了AI，那么它的前进也必须由人类指引。AI可以创造高度逼真的内容，这些内容能够在网络平台上即时传播——操纵公众舆论，威胁信息完整性，使真相与彻底的谎言难以区分。Deepfake可能引发外交危机，煽动动乱，并破坏社会的根基。AI的环境影响也带来明显的安全风险。AI数据中心大量消耗能源和水资源，再加上对关键矿产的争夺，正在造成对资源的激烈竞争和地缘政治紧张。人类下一步行动至关重要，我们现在做出的选择将决定我们的未来。建立有效的国际治理机制刻不容缓，因为每一次延迟都可能增加全人类面临的风险。
奇点一：我们如何写作和发表
Mollick教授称，自己有些论文从开始研究到最终在期刊上发表花了将近十年时间。顶级期刊是为这种节奏而设计的，因此对AI引发的学术文章洪流准备不足。这是因为许多研究人员正在使用AI写作文章，加快了研究过程的关键环节，干扰了审稿人的评估标准。其中一些AI辅助方式极其拙劣且不道德，比如明显由LLM撰写的章节或令人震惊的AI生成图像的论文泛滥。但当正确使用时，AI写作实际上可以非常有帮助。毕竟，许多科学家在他们的专业领域很优秀，但他们可能不是优秀的写作者或表达者。而GPT-4级的模型在科学写作方面确实相当出色，至少在一项小型研究中，它们输出的引言部分与人类写作水平相当。如果AI能够帮助写作过程，它可以让科学家专注于他们最擅长的事情，通过让AI协助处理耗时的任务来加快研究进程。当然，我们无法得知研究人员是否正确检查了AI的写作内容，因此，在新文章大量涌现的情况下，同行评审变得越来越重要，同时也趋于AI自动化。在一次重要的AI会议上，约17%的同行评审内容来自AI。更令人惊讶的是，研究显示约82.4%的科学家认为AI同行评审比部分人工评审更有参考价值。尽管在某些方面，AI表现不及人类，但其在发现错误方面已经展现出独特的优势。然而，现有的科学出版体系并非为「AI写作-AI评审-AI总结」这样的流程而设计。如果任由这种趋势发展，整个系统可能难以为继。为了展示其潜力，Mollick构建了一个「定制GPT」，它可以探索任何数据集，生成假设并以越来越复杂的方式进行测试。通过实验发现，AI已经能够自主探索数据集、生成假设并进行复杂测试。这种能力固然令人印象，但也带来新的隐忧：AI可能被用来进行数据操纵（p-hacking），不断尝试直到得到预期结果。那么，我们如何度过这个奇点？我们需要重新思考科学出版的本质，并得出一些结论：奇点二：我们如何研究
首先，和AI的合作更像是与人类研究助理合作，而不是使用编程语言。这意味着，更多的研究人员无需学习专门的技能，就可以使用AI来扩展研究的范围。更进一步的，LLM还能处理人类研究助理难以完成的事情。例如，Mollick在向Gemini Pro输入了自己2022年之前所写的20篇论文和著作，总计超过1000多页的PDF文件后，模型借助强大的「长上下文窗口」能力，很快便提取出了直接引用并找到了所有文献中的主题，同时只有几处微小的错误。此外，由于AI可以高度准确地模拟人类，因此研究人员能够更加轻易地复刻著名实验，如「米尔格拉姆的权力服从研究」或跨50个国家的性格测试，从而为社会科学研究带来了更多的可能性。更为有趣的是，在这些实验中，被赋予个性和目标的AI智能体，可以在模拟环境中相互交互和学习。比如，在模拟医院中的模拟医生与模拟病人互动，学会了更好地诊断疾病。是的，在科学中使用LLM最有趣（也最具颠覆性）的方式，就是让AI系统自动探索新事物。一些早期工作表明，LLM可以在社会科学领域生成新假设，制定测试这些假设的计划，然后通过模拟实际进行测试。甚至是从事更具挑战性的实验：让GPT-4访问化学数据库，编写软件控制实验室设备，并独立规划和进行实际的化学实验。
在不久的将来，AI可能真的会进行科学研究，并以我们无法预测的方式改变研究的本质。奇点三：我们的研究意味着什么
然而，在学术界深耕了20年的Mollick相信，大量学术研究对外部世界都具有价值，这种价值甚至许多学者都没有意识到。比如，当你给之前提到的「定制GPT」投喂一篇论文之后，它不仅可以解释其中的含义并总结关键结果，而且还可以告诉你，为什么这篇学术论文可能也与你有关。同样有趣的是，AI有望帮助研究人员相互解释工作，发现跨学科合作的机会，并帮助处理奇点一和奇点二所释放的研究浪潮。我们知道，AI可以进行大规模文献综述并找出意想不到的工作之间的联系，同时也能发现可以填补的错误和空白。其中，能够将研究人员与正在进行的研究和讨论联系起来的AI，甚至可以更进一步地成为重启创新引擎的有力工具。但我们需要重新考虑学科之间以及学术界与公众之间的界限，以便在这个奇点的另一边找到更好的世界。奇点四：我们研究什么
时至今日，我们仍然不知道LLM为什么能如此出色地模拟人类思维。就连创造它们的研究人员，也不了解它们的全部能力。虽然关于LLM是在进行「原创思维」，还是仅仅在重复训练中学到的内容，仍存在着广泛的争议。但从目前的研究中可以看出，LLM必将在现实世界中产生重大影响，在越来越多的实际工作中超越人类表现。如果说，AI确实是一项「通用型技术」，是能够影响文化、经济和社会大部分领域的创新之一，那么我们就需要发动更多领域的研究人员，全力以赴来理解其影响、塑造其发展、减轻其风险，并帮助每个人获益。这是一个令人振奋的时代，但如果学者们不紧紧抓住这个历史性的时机，其他人就会去做。我们有一个独特的机会来应对我们的奇点带来的挑战，如果我们做到了，世界将因此变得更好。https://www.reddit.com/r/singularity/comments/1hqiwxc/singularity_predictions_2025/https://www.oneusefulthing.org/p/four-singularities-for-researchhttps://x.com/emollick/status/1874096313618620445 https://simonwillison.net/2024/Dec/31/llms-in-2024/https://news.illinois.edu/view/6367/361689696?utm_medium=web&utm_campaign=ccr550&utm_source=nbhttps://press.un.org/en/2024/sgsm22500.doc.htm
