大模型时代，人人都是开发者，人人也都想成为创业者，欲从大模型卷起的浪潮中分得一杯羹。然而，创业之路有多难？
前谷歌大脑高级研究科学家 Yi Tay 在离开 Google 勇闯 AI 创业圈 20 个月后发文表示——
「
为了同时兼顾很多事情，我的身心健康受到了很大的损害，由于高强度的工作和不健康的生活方式，我胖了 30 斤。
」
11 月 26 日，Yi Tay 在社交平台 X 及个人博客上分享自己的最新决定——
重回 Google DeepMind，从事 AI 和 LLM 研究。
摆脱了创业者的身份，Yi Tay 如释重负，异常开心：
在创业世界探索了一年半之后，我决定回归我的研究初心。
我将重返 Google DeepMind 从事 AI 研究。我很高兴能够探索与 LLM 相关的激动人心的研究方向，并期待发现新的研究突破点。
我将以高级研究员的身份重新向我之前的主管（Quoc Le）汇报工作。
这是我回来的第一周，我非常兴奋。
在 Google 任职的 3.3 年
对于 Yi Tay 而言，这一次看似以“失败”告终的创业也并非当时的一时冲动。和许多心怀大志的年轻人一样，彼时 33 岁的 Yi Tay 想试试自己在未来 3.3 年里究竟能有多少成长。
至于为什么是以 3.3 年为周期，Yi Tay 曾透露，他花了约 3.3 年的时间攻读博士学位。一毕业之后就以研究员身份加入 Google 美国山景城园区的研究团队，随后回到新加坡，作为“新加坡办公室的唯一研究员”继续工作。
而后他成为 Google Research 美国研究团队的技术主管，致力于 Transformer 扩展和架构。在此期间，他还为大约 20 款产品的发布做出了贡献。随后，Yi Tay 加入 Google Brain 团队，成为一名高级研究科学家，致力于大模型和 AI 的研究，这一干又是一个 3.3 年。
这段时间里，Yi Tay 参与并推动了 Google 不少前沿研究工作，如 PaLM、UL2、Flan-{PaLM/UL2/T5}、LaMDA/Bard 和 MUM 等。此外，他在 ViT-22B 和 PaLI-X 等大型多模态模型的开发中也发挥了重要作用，并担任新 PaLM-2 和 PaLM API 的建模联合负责人。
同时，他在 Google 任职的 3.3 年时间里共撰写了约 45 篇论文，其中约 16 篇为第一作者或共同第一作者。
有了丰富的经验积累，Yi Tay 想要开启自己下一个冒险之旅。于是在去年 3 月，Yi Tay 和 Meta 研究科学家 Mikel Artetxe 等人一拍即合，创立了 Reka 公司，而他担任 Reka AI 的联合创始人/首席科学家。
融资 1 亿元，15 个人共同
创业的一年半
在百模大战期间，Reka 也不负团队的共同努力，发布了在文本、代码、图像、视频和音频数据上从头开始进行训练的多模态语言模型 Reka Core (67B)、Flash (21B)、Edge (7B) 和 Spark (2B) ，效果都不错，同时 Reka 也和英伟达、Oracle 和阿里云等公司有着不同程度的合作。
回看过去一年半的经历，Yi Tay 在最新发布的《重返 Google DeepMind》博文中透露出，
创业的确能学到很多，但也真的是累！
在创立 Reka 过程中，Yi Tay 写道：
从技术层面来看
，我学到了很
多
关于
Google 之外的
基础设施的知识，掌握了使用 PyTorch、GPU 以及其他外部资源的技能。
我和 Reka 创始团队的其他成员一起，以成本最优的方式构建了高质量的模型。我还学会了如何应对不可靠的 GPU、供应商和计算资源。
此外，我还基于自己的经验在 WebConf 的 LLM Day 发表主旨演讲以及在越南 GenAI 峰会上进行了技术性、内省性和面对面的分享。特别感谢 swyx 邀请我参加 Latent Space 播客分享我的冒险经历，也感谢 TechInAsia 邀请我参加有趣的炉边谈话。
作为初创公司创始人，我还经历了许多在 Google 无法接触到的有趣事件，这让我大开眼界。
我学到了很多关于创业、商业以及从零开始建立公司的知识。
尽管如此，我仍然认为自己更像是一名科学家/研究员，因此决定回归本心，重新专注于研究。
我为我们在 Reka 创立初期取得的成就感到自豪。今年 5 月，我们凭借 Reka Core 成为 LMSys 排行榜的前五机构之一。
虽然模型实际排名第七，但我们达成了超越 GPT-4 早期版本的目标。
考虑到我们比其他实验室少得多的资源（资金、计算能力和人力），这是一个了不起的成就。
虽然我们总共分批融资超过 1 亿美元，但与其他团队相比，这仍是相对较少的资金。
此外，
这些成就是由不到 15 人的技术团队完成的。
个人层面，这对我来说是一个极为紧张的时期，尤其是在创业初期发现我的妻子怀上了我们的第一个孩子，而且正好是在我刚离开 Google 时。为了同时处理这么多事情，我的身体和心理健康受到了巨大影响，
由于高强度和不健康的生活方式，我的体重增加了 15 公斤。
好的一面是，我现在正在积极努力恢复健康，或许未来会写一篇文章分享这段“恢复之旅”。
仅从 Yi Tay 分享过去一年半的照片记录中，肉眼可见的是，创业真的使 Yi Tay 变胖了。
Yi Tay 回忆道，「对我来说，这是一段疯狂但意义非凡的旅程...我已经有了一段不错的旅程，我相信 Reka 在那些才华横溢且有能力的人手中会发展得很好！这是一次不错的“学术休假”和学习机会。现在，是时候回归 Google，继续我的研究之路了」。
临近文末，Yi Tay 还感叹一声——
放弃舒适区并创业对我个人来说真的很可怕！
可见这次 AI 创业其实也给他带来了不小的冲击。
人才流回大厂，AI 发展的下一步
不得不说，AI 领域的“卷”不止让 Yi Tay 感到心力憔悴，更多的从业者想必也感同身受。尤其是近年来，多种宏观因素的共同作用推动了 AI 的迅猛发展。计算能力和存储成本的大幅下降、互联网的普及以及数十年的算法研究，为 AI 的实际应用创造了理想条件。
