题外话:同学们,喜报,我生了个娃(闺女,超萌)。另外过去两年我跟霍炬都在搞生成式AI。霍炬过去两年在 Stability.ai 上班,搞 inference engineering,后来参与训基础模型(SD3)。我带个小团队搞图像模型的应用研发,设计工作流啥的。现在也开始转向视频和3D生成领域。
娃已经一岁半了,送日托了(泪流满面),所以我要恢复公众号更新啦,随便写点画点,还是程序员和AI主题的。请大家多多关注。
---以下是今天更新的正文---
DeepMind 的联合创始人 Demis Hassabis 与 John Jumper 因创建 AlphaFold2 获得了诺贝尔化学奖。他们的 AI 工具 AlphaFold2 在蛋白质结构预测方面引发了“彻底革命”而获此无上荣誉。AlphaFold2 实现了一个 长达50 年的梦想:从氨基酸序列预测蛋白质结构。没有蛋白质,就没有生命。我们现在能够预测蛋白质结构并设计我们自己的蛋白质,这为人类和世界的未来带来了无限可能,从更好地理解抗生素耐药性,到创建能够分解塑料的酶。
更神奇的是,在转向学术界之前,Hassabis 是一个游戏程序员。他在大学时就开始在 Bullfrog 工作,对的,就是那个创造了 主题医院、主题公园、地下城守护者(Dungeon Keeper) 的神奇工作室。随着牛蛙工作室被EA收购,创始人Molyneux的出走另立门户, Hassabis 也跟随 Molyneux 去了新创的 Lionhead Studios 狮头工作室。作为 首席AI工程师 参与了 《黑与白》的开发。
《黑与白》可以说是我上大学时最喜欢的游戏!
由于黑与白的开发周期较长,直到 2001 年才发布,此时 Hassabis 已经离开并创立了 Elixir Studios,担任 Republic: The Revolution (共和国:革命)和 Evil Genius (邪恶天才) 的执行总监。这两款游戏在市场上虽然不是很成功,但确是创新度非常高的策略及模拟游戏。
之后 Hassabis 逐渐转向学术界,完成了博士学位,并在多所大学工作,直到 2010 年共同创立了 DeepMind。
与早期的人工智能不同,如 IBM 的深蓝或沃森,它们是为预定设计目标而开发的。DeepMind从一开始的愿景就是创建通用人工智能。但却是从教 AI 玩一些七八年代的老 video game 开始的。一开始是一些类似 打砖块和太空侵略者 这样的简单游戏,看AI能否学习规则以掌握游戏,然后转向如雷神之锤,星际 2 和 围棋 这样的更复杂的游戏。
Demis Hassabis 说, AI经历的认知过程与一个人类理解和尝试掌握一款全新游戏的过程非常相似。
2014年谷歌花6.6亿美金买这个只有12个人的小初创公司,这个公司没有任何的产品落地,就是用深度学习在玩游戏、下棋。
2016年,DeepMind 的 AlphaGo 在五局比赛中以 4 比 1 的比分击败了世界顶级棋手之一的李世石。这几盘棋下完,大众开始认识到这一次AI文艺复兴浪潮的力量,AI在复杂策略游戏中超越人类,深度学习在全世界引起了轰动。
2017年 《Attention is all you need》论文发布,提出了 Transformer 机制, 彻底改变了NLP领域的范式。抛弃了此前广泛使用的 RNN 结构,完全基于注意力机制构建模型,能够更好地捕捉序列中长距离依赖关系,实现并行计算,大幅提高了训练和推理效率。
2019年,OpenAI 开源 GPT-2。
2020年,DeepMind 推出 AlphaFold, 在蛋白质结构预测方面取得重大进展。2022年 发布 AlphaFold 数据库中超过 2 亿个预测的蛋白质结构,几乎涵盖了所有已知蛋白质。
……
然后,我们就来到了今天。
嗷!