专栏名称: 六合商业研选

六合咨询立足新经济，挖掘明日之星，发现价值，传播价值；国际化视野、多角度观察、深度思考、体系化研究，持续提升研究广度与深度，全面覆盖一级、新三板、二级（A股+美股+港股）；深度剖析优质企业商业模式与投资价值，前瞻性洞察行业本质与发展趋势。

【智能时代】月之暗面：AGI是新的登月计划Moonshot，长文本无损压缩将是登月第一步

六合商业研选 · 公众号 · · 2024-04-29 06:30

正文

AI 为核心的新一轮科技创新浪潮已至， AI 将与互联网一样，带来新一轮范式革命，人类社会将进一步加速发展。我们精心准备，重磅推出【智能时代专题】，目前已规划 98 篇深度原创研报，将全方位梳理 AI 产业、技术、代表性公司等发展历史、现状、趋势，展望智能时代未来图景，挖掘投资机会。

智能时代专题： 月之暗面

免费版 2,683 字，预计阅读 7 分钟

完整版 15,879 字，欢迎付费解锁

一、中国 AI 创业头部公司月之暗面 Moonshot AI ，专注构建 AGI ，致力寻求将能源转化为智能的最优解，通过产品与用户共创智能，实现普惠 AI 。

月之暗面 2023 年 3 月 1 日成立，国内大模型领域关键玩家， 2023 年 10 月 9 日发布首款 AI 助手产品 Kimi 智能助手，凭借 20 万汉字无损上下文能力，创造消费级 AI 产品支持上下文窗口长度纪录； 2024 年 2 月 5 日，推出 Moonshot AI 开放平台，赋能开发者构建 AI 应用生态； 2024 年 3 月 18 日， Kimi 智能助手在长上下文窗口技术上再次取得突破，无损上下文长度提升 1 个数量级到 200 万字，不到半年增长 10 倍。

Kimi 智能助手率先支持 200 万字上下文窗口，大幅领先国外顶尖大模型， OpenAI GPT-4 Turbo 上下文长度约为 10 万汉字， Claude 3 上下文长度约 16 万汉字。

Kimi 智能助手凭借 200 万字上下文窗口成功出圈，持续进行系统扩容，应对激增流量。 3 月 21 日下午， Kimi 智能助手 APP 与小程序均显示无法正常使用。月之暗面表示，从 3 月 20 日 9 点 30 分开始，观测到 Kimi 系统流量持续异常增高，流量增加趋势远超对资源的预期规划，导致从 20 日 10 点开始，部分 SaaS 客户无法正常使用；自流量异常起，已进行 5 次系统扩容，并设计 SaaS 流量优先级策略。

七麦数据， Kimi 智能助手在效率（免费榜）排名，从 2024 年 1 月 14 日 436 名，升至 2024 年 3 月 19 日 11 名； 2 月访问量近 300 万次，在 AI 产品国内总榜排名 Top3 。

Kimi 智能助手掀起大模型长文本竞赛，国内竞争对手积极跟进。 2024 年 3 月 18 日， Kimi 智能助手宣布，支持 200 万字上下文窗口后； 3 月 22 日，阿里云旗下通义千问，向所有人免费开放 1,000 万字长文档处理功能； 3 月 23 日， 360 智脑宣布，正式内测 500 万字长文本处理功能，该功能即将入驻 360 AI 浏览器； 4 月，消息称百度文心一言计划将长文本输入能力升级为 200 万 ~500 万字，文心一言文本目前上限约 2.8 万字。

二、长文本是通往 AGI 的重要基础，历史上所有架构演进，本质都是在提升有效上下文长度。 月之暗面创始人杨植麟表示，最早的 word2vec 模型（生成词向量的深度学习模型，根据上下文中单词预测目标单词），在 10 年前用 1 个词去预测周围的词，相当于上下文长度是 5 ， RNN 模型把有效上下文长度提升到 20 ， LSTM 模型有效上下文长度增至大几十， Transformer 提升到几千，现在月之暗面能做到 200 万；如果能有 10 亿字的有效上下文长度，现在看到 AI 大模型的问题都不是问题。

上下文长度提升依从摩尔定律，可实现指数级增长。杨植麟判断，存在上下文长度摩尔定律，给定长度下的准确率（无损压缩）非常重要，需要同时优化长度与准确率两个指标，在保证模型能力与智商的情况下，大概率上下文长度的提升是指数级增长。

如果把 AGI 比作登月，长文本无损压缩将是登月第一步，是新的 AI 计算机内存。

杨植麟表示，传统意义计算机内存，过去几十年，容量增长好几个数量级，未来会同样在新计算机内存上重现。长文本是把新计算范式变成更通用的基础，传统计算机能用 0 、 1 表示所有内容，所有信息都能被数字化。目前新的 AI 计算机还不行，上下文长度不够，不够通用，要变成通用世界模型，长文本是必须的。

长文本能够推动实现真正的个性化， AI 最核心价值是个性化互动， AGI 将比上一代推荐引擎更加个性化。 个性化过程不是通过微调实现，而是通过支持足够长的上下文，用户与模型所有的互动历史，都被记录在上下文中，从而实现真正意义上的个性化，这个过程无法被复制，通过与模型直接对话，产生真正意义的个性化。

长文本可扩展空间非常大，但不能只看上下文窗口长度。对比传统计算机内存，上下文窗口提升，将会有几个数量级。 不应该只追求单一指标，需要结合指标与能力，不能只看提升窗口长度数字，几百万、几亿窗口长度没有实际意义，核心是看模型在窗口长度下能实现的推理能力、对原始信息忠实度、遵循指令能力。未来，上下文窗口与模型能力持续提升，能实现很多应用，包括实现几万字的指令，指令可定义很多智能体，实现高度个性化。

月之暗面积极探索登月第二步，追求统一世界模型、 AI 自主持续进化两大里程碑。

真正统一世界模型，能统一各种不同模态，实现真正可扩展、通用的系统结构。 AI 自主持续进化，能在没有人类数据输入情况下，让 AI 不断进化。 杨植麟预计，两大里程碑将在 2~3 年内实现，有可能会更快；现在是技术萌芽快速发展阶段， 3 年后会出现一定程度的 AGI ，在很多方面超过人类能力，关键在于如何使用 AGI 。

三、月之暗面注重前瞻发现与布局有概率的非共识，形成独特竞争力，助力在竞争中脱颖而出。 杨植麟表示，月之暗面布局有概率的非共识，包括长文本无损压缩、瞄准 C 端市场等，更多的仍在布局中，希望能尽快推出。

GPT-4 是 AGI 必经之路，月之暗面预计很快能达到 GPT-4 水平，有概率成为中国大模型公司中最快达到 GPT-4 水平的；不能只满足做到 GPT-4 效果，要想现在真正的非共识是什么， OpenAI 下一步是什么， GPT-5 、 GPT-6 应该是什么样，有哪些独特能力需要构建。

月之暗面积极打造更多升维能力，瞄准颠覆性产品。 杨植麟认为， AI 产品不应只卷搜索场景，搜索在未来只占 Kimi 价值的很小部分， Kimi 应该有更大增量。 AI 模型比传统搜索引擎提升 10% 、 20% ，没有太大价值，只有颠覆性产品，才配得上称 AGI 。 AI 产品独特价值来自增量智能，智能永远是最核心的增量价值，如果产品最核心价值只有 10%~20% 来自 AI ，不具备颠覆性价值。

杨植麟表示，月之暗面注重技术驱动与创新，不仅是追求产品、用户、数据增长。用户是最终目标，也是实现 AGI 共创的伙伴，目前属于从马车到汽车的跳跃过程，应该尽可能想怎么给用户提供一辆汽车。

月之暗面计划 2024 年发布多模态模型与产品， AGI 需要与用户共创构建。 2024 年 3 月 18 日发布会，月之暗面联合创始人周昕宇表示， OpenAI Sora 推出前，月之暗面已进行多模态能力研发， Sora 未改变月之暗面产品研发节奏，预计 2024 年推出自研多模态模型与产品；月之暗面团队目前约 80 人，将在坚定 AGI 路线前提下，坚持在超级应用与场景上继续探索； AGI 需要与用户共创构建，如果只是闲聊，对模型反馈效果比较弱，希望 Kimi 能帮用户做很多对智商要求高的事，推动模型能力上限提升。

四、 Moonshot 推出 AI 开放平台，赋能开发者构建 AI 应用生态。

2024 年 2 月 5 日， Moonshot AI 开放平台正式启动公开测试， API 接口与 OpenAl 兼容。 开发者通过 Moonshot AI 开放平台创建 API Key ，可将 Kimi 智能助手基础模型能力，拥有长文本处理能力、卓越指令遵循能力等，接入到自有产品中。