专栏名称: 海外独角兽
研究科技大航海时代的伟大公司。
目录
相关文章推荐
白鲸出海  ·  HeyGen更新Avatar ... ·  17 小时前  
白鲸出海  ·  出海五年,猿辅导交出怎样的成绩单? ·  5 天前  
51好读  ›  专栏  ›  海外独角兽

拾象英雄帖:寻找 AGI 同行者

海外独角兽  · 公众号  · 科技公司  · 2024-10-09 20:03

正文


这是来自拾象的一份英雄帖。o1/RL 开启了 LLM 进程的第二幕。新范式下,我们想找到同样对 AI 怀有巨大热情和好奇心的同行者,如何你也想参与把技术关键问题研究转化为投资 ideas 的过程,欢迎加入我们,一起找到找 AI 时代的 Google、Apple。


我们希望你:


• 认同拾象的投资理念:热爱 AI,热爱技术,有能力和动力追踪、理解 AI 的技术演进逻辑和路线,构建技术驱动的投资方法论;


• 感兴趣我们的投资方向:RL + LLM 是我们下一阶段的主线,在厘清 RL 关键问题和落地场景时,我们重点关注 Coding,Agent,以及硬件、数据中心等 RL 可能带来的变化;多模态、机器人、AI for science 也是我们关注的重要方向。


• 对投资行业有充足理解和认知:你不一定有丰富的投资经验,但对钻研商业和企业有热情,有动力和拾象一起将技术底层研究转化为具体的投资 ideas 和实践;


• 有国际化的产品品味:对硅谷一线 AI 领域最重要的人和产品高度敏感,有良好的技术和产品审美,习惯于通过英文获取一手信息;


• 完美加分点:有代码能力,甚至有过 AI 产品实践会是加分项。


除了一级市场投资,拾象也构建了二级投研产品,通过全阶段的投资工具布局科技股中的 AI-alpha。如果你想加入这一场超倍速的生产力革命,请扫描下方“加入拾象”二维码填写表单,我们会在 48 小时内回复每一份报名。


Think bold, feel the AGI game!


One more thing:如果你不是投资人,而是 AI 开发者,正在等待技术拐点出现构建 AI-native App,也可以和我们联系,我们愿意积极探讨投资、孵化机会。请扫描下方“ AI Builders ”二维码填写表单。





01.


拾象在做什么?


AI 是一套全新的范式,当底层的技术方法论发生变化,上层的创新实践也会随之转移。在 AI 还在震荡变化的当下,只有理解技术是如何变化的演进方式和路线才能更好地规避噪音,去向真正有价值的地方。



两年前,拾象团队在硅谷笔记中写下 :“AI/ML 是 Cloud 2.0,是软件革命的未来,代表着未来 10 年最重要趋势”,1 个月后 ChatGPT 出世,机器智能的飞跃让全世界意识到,我们已经站在巨变前夜;


今年 9 月,我们提出,RL 带来新的 scaling law ,两周后,OpenAI o1 模型发布,LLM 革命进入第二幕:Scaling law 作为第一波浪让我们发现了如何构建智能的秘密,而 RL 新范式让我们有机会把超级智能打造为“超级工具”。


从 ChatGPT 到 o1,拾象团队投入到 LLM 领域的时间已经超过 5 万小时,在这 5 万小时中,让我们感到兴奋从来不是 LLM 已经变得多么强大,而是在未知的空间和时间里,LLM 还有多少潜力尚未释放?


积极信号已经出现:AI 的确是一场超倍速生产力革命:红杉美国年初发布报告中,GenAI 领域的整体收入已经超过 30 亿美元,在 SaaS 时代,这一过程走了 10 年。前不久, Stripe 调研的支付数据更具象化了这个过程:AI 产品实现 3000 万美元收入的速度是传统 SaaS 公司的 5 倍。


我们既对每一个 AI-native 的新生代挑战者感到兴奋,也密切追踪那些拥有完善数据基建和业务流的“大家伙”们,在这个过程中我们也搭建了 AGIX 指数,从全球上千家科技企业中精选出 40 家作为 AGI 进程的坐标,也为市场打造 AI 时代的 Nasdaq 100,帮助投资者找到 AI-alpha。


简单来说,拾象正在通过全阶段,多资产类别的方式参与 AI 的机会,与时代最强音共振。


为了让你更好地了解我们平时的研究风格,以及重点关注方向,在下文我们附上了内部认为 RL 领域值得翻越的几个山头,如果你也对这些问题有极大的兴趣和自己的看法,请毫不犹豫地联系我们。




02.


LLM 2.0 的重要问题


RL 是 LLM 2.0 的开始,也是拾象下一阶段的主线:在厘清技术底层的基础上,形成更 updated 的投资判断工具,找到新的投资 ideas 是拾象参与 AI 投资的第一性原则。


关键山头 1:post-train 的秘密


新范式下,研究的重点从 pre-training 变成了 post-training,pre-training 在过去两年已经逐渐清晰,但以 RL 和 inference time 为主的新范式下的 post-training 还是黑盒状态。过去 10 年全球顶尖跑者能力大幅提升得益于训练方法的进阶,而这又建立在生物学层面人类对身体细节构造了解的深入。同理,更深入理解 RL 的逻辑,我们才算真正打开 LLM 第二幕的大门。


在这个山头,我们好奇的关键问题有:


• 强化学习能否在数学、代码之外的领域泛化出推理能力?这种泛化会带来哪些新的投资和创业机会?


 如果 scaling-up 不再是模型能力提升的唯一解,那么如何找到模型参数量和探索量的平衡?o1-mini 这样思考量更大的小模型是否会更好?


 业界复现 o1 实际会遇到什么瓶颈,最容易被高估和低估的环节是什么?


 在 RL 语境中如何再次理解 CoT,是否仍需要大量人类数据标注?


……



关键山头 2:LLM 基建大改造


硬件和计算范式相互耦合,互为影响。Pre-train 范式时代,“大力出奇迹”的 scaling-up 是模型能力提升的最核心解,也由此带来了超大计算集群的超高成本投入、电力短缺、计算中心 ROI 等一系列问题,o1 之前,模型竞赛基本就是算力竞赛。


RL 新范式会如何影响 GPU 和数据中心是一个万亿美金的问题:当下 AI 价值王者英伟达的强势地位会在 RL 时代发生变化吗?


 RL 范式下模型的训练对 GPU 集群的需求发生了什么变化?


 RL 让  Inference cost 显著提升,什么样的硬件、什么规模的计算集群适配于 RL 的需求?


  在内存、互联等环节,RL 会带来哪些新的需求和挑战?


 除了硬件之外,数据基建又会在 RL 范式下发生哪些变化?


……



关键山头3 :RL 会成为超级应用的起点吗?


模型训练和基建问题的变化最终会传到至终端。和历次科技革命一样,新技术的经济价值在 C 端引爆永远最让人期待,o1 和 RL 之所以是新范式是因为它让模型从“聪明脑袋”变成“超级员工”,尤其是在 agent、代码、数学场景。


 Reasoning 能力的突破是否真正实现软件编程的民主化革命?


 RL 语境下复杂推理、异步交互形态是什么?基于新的交互会诞生新一代 OS 吗?


 RL 带来的模型推理能力的提升能否在 science 领域带来科学发现的突破?


 适配于 RL 语境的产品 PMF 长什么样?


 低 user base、高价值的任务应该如何被定价?这又会对AI-native 应用的商业模式带来哪些影响?


……


在今天没有什么比 AI 更值得兴奋的事情了。AI 一定会在未来 20 年里改变世界,影响未来几代人的生活和工作方式,而不仅仅只是在过去 1 年或者未来 6 个月吸引人们的眼球。如果你和我们一样,同样是 AI 的坚定信仰者的践行者,期待同行!我们希望和你一起解决 RL 时代的关键问题,找到 LLM 的第三幕、甚至 AGI 大门的钥匙的同时,也共同构建出 AI 时代的投资范式。




03.


关于拾象


拾象创立于 2019 年末,投资全球科技是我们从 day 1 就确立的目标,我们的Portfolio 总估值已经超过 6000 亿美金。围绕 AGI 时代的价值发现,我们还从成长期投资发展出美股 AI ETF、美股对冲基金等产品,用贯穿一二级的研究视角和投资产品捕捉 AI alpha。


我们的定位既是基金,也是一家 AI research lab,希望通过长期研究底层架构、技术细节,搭建我们独有的思考框架。除了投资业务,我们还坚持通过海外独角兽持续把将最前沿、最深度的认知开源,用最先进的思考搭建起全球 AGI 信仰者的网络。



 延伸阅读

AGIX ETF 上线:构建 AI-native 的投资工具


LLM 的范式转移:RL 带来新的 Scaling Law


LLM 新范式:OpenAI o1,self-play RL 和 AGI 下半场


Chelsea Finn: RL 是如何在 Robot Learning 领域创造价值的?


Andrej Karpathy: Tesla 能实现自动驾驶领域的 AGI |AGIX 投什么