红杉资本2024：生成式AI o1新章节

发现报告 · 公众号 · · 2024-10-24 09:59

正文

今年的模型中，OpenAI的o1最强，内部代号是Strawberry。

这款模型是行业内第一次展现了模型真正的通用推理能力。大概可以类比2016年Alpha Go战胜围棋传奇李世石的那一刻。这也代表着，在人工智能的迅猛发展中，我们迎来了一个新的里程碑：生成式AI的推理时代。

红杉资本的最新报告为我们揭示了这一领域的最新进展和未来趋势及相关机会。报告很短，14页，但含金量极高。本期内容我们就一起来看看生成式AI的“Alpha Go时刻”。

#01#

报告摘要

以下是其核心内容的概要：

1. 生成式AI的演变：

过去两年，生成式AI从快速预训练响应转向更深层次的推理能力。

OpenAI推出的o1模型（曾用名Q*或Strawberry）是首个具备真正通用推理能力的模型，标志着架构上的显著改进。

2. 推理时计算：

推理时计算指的是模型在给出响应前进行更多的计算，以实现更直接的推理。

这种推理能力类似于人类的思考和推理方式，o1模型展示了回溯和像人类一样思考问题的能力。

3. 市场结构：

LLM（大型语言模型）市场结构趋于稳定，市场由几个规模化玩家和联盟组成，如Microsoft/OpenAI、AWS/Anthropic、Meta和Google/DeepMind。

4. 系统1与系统2的思考：

系统1对应快速、直觉的反应，而系统2对应深入、经过深思熟虑的推理。

o1模型在逻辑领域（如编程、数学和科学）表现较强，而在更开放和无结构的领域（如写作）表现较弱。

5. 新的尺度定律：

模型在推理阶段获得的计算资源越多，其推理能力就越强。

预训练模型的性能随着计算和数据的增加而提高。

6. 应用层AI公司：

应用层AI公司不仅仅是基础模型之上的用户界面，它们拥有复杂的认知架构，包括多个基础模型和路由机制。

这些公司通过定制的认知架构来解决特定任务，例如Factory的仿生人产品。

7. AI转型对市场的影响：

AI转型可能会破坏现有的云公司，但同时也创造了新的市场和机会。

AI公司通过成果收费，而不是传统的软件销售模式。

8. 投资机会：

报告讨论了在生成式AI栈中不同层面的投资机会，包括模型、基础设施、开发人员工具和基础架构软件。

9. 未来的展望：

报告期待生成式AI的“Move 37”，即一个通用人工智能系统将带来超乎人类的能力。

这可能不会是一次单独的事件，而是技术发展的下一个阶段。

这份报告详细探讨了生成式AI的最新发展、市场结构、推理能力、以及这些技术如何影响未来的软件和服务市场。

#02#

报告节选

以下是部分报告原文节选， 点击报告封面 可以查看报告全文~