专栏名称: 张小北
编剧,太空堡垒预告片工作室联合创始人 工作事宜请联系邮箱:[email protected]
目录
相关文章推荐
张小北  ·  //@来去之间:转发微博-202410021 ... ·  1 周前  
电影工厂  ·  被低俗耽误的国产网大,不该无人问津! ·  1 周前  
51好读  ›  专栏  ›  张小北

//@海洋aN://@饭统戴老板:2012,改变人类命运的180-20241009104704

张小北  · 微博  · 电影  · 2024-10-09 10:47

正文

2024-10-09 10:47

//@海洋aN://@饭统戴老板:2012,改变人类命运的180天2012,改变人类命运的180天
昨天,诺贝尔物理学奖颁给了Geoffrey Hinton(杰弗里·辛顿),出乎不少人的意料。不管有没有争议,辛顿在深度神经网络领域的地位毋庸置疑,而且他不是那种只待在象牙塔里的人,跟产业的连接也很密,现在全球AGI领域各条战线上的明星,或者明星公司,基本都能跟他搭上线。

关于他的故事我们写过很多,这里摘录一些:

1. 2012年10月,辛顿带两个学生ImageNet图像识别比赛上夺冠,然后把自己和两个学生打包成一家公司(图1),起名叫DNNresearch,给自己估值1200万美元,邀请几家科技大厂来拍卖。是谁促成这件事的呢?是百度。

2. 当时百度多媒体部的负责人,拿过第一届ImageNet大赛的冠军,所以在读了论文后,马上意识到辛顿团队的巨大价值,就给辛顿发邮件要合作,这个人就是余凯,就是汽车芯片和智驾领域的独角兽“地平线”的创始人(图2)。

3. 过了多年苦日子的辛顿,看到邮件后一口答应,顺带提出100万美元的合作经费,余凯向李彦宏请示,后者爽快地答应。然后辛顿意识到产业界如此饥渴,干脆多问几家,于是合作就变成了竞标,邀请四家公司参与:Google、微软、百度,和当时还没做出阿法狗的DeepMind。

4. 拍卖在加州和内华达州交界处的太浩湖(Lake Tahoe)举行,这个地方就是《教父2》开头科里昂家族开派对的地方。

5. 起价1200万美元,每抬一次价格是100万美元,然后四家公司迅速抬到了4400万美元,把辛顿搞的有些头晕,果断喊停,把公司卖给最后的喊价者Google。百度尽管没能夺标,但这件事足够余凯和李彦宏吹一辈子。

6. 当时代表微软参与竞标的,是邓力(图3)。邓力是语音识别领域的大神级人物,跟辛顿相识多年,深度神经网络用到语音领域,这两人贡献巨大。提到语音识别,你是不是就想起了科大讯飞?是的,邓力的母校就是中科大,科大讯飞创始人刘庆峰在1998年拿到ISCSL最佳学生论文奖,就是邓力给发的奖,他之后也多次回合肥跟讯飞团队交流。

7. 代表Google参与竞标的,是谷歌的传奇大神Jeff Dean(图4)。虽然最后夺标,但Jeff Dean心情复杂,因为辛顿在2012年6月曾经短暂参与了Google的The Cat Neurons项目(即“谷歌猫”),然后辛顿一眼就指出了这个项目的缺陷——使用16000块CPU来,但没有使用GPU。

8. 当年推荐辛顿去“谷歌猫”项目的,是另一位人工智能领域的大神吴恩达(图5)。他后来经过余凯的牵线,去百度待了一段时间。

9. 正是受谷歌猫项目的启发,辛顿就带着学生搞出了AlexNet算法,里面只用了4块英伟达的GPU。而夺冠之后,全球学术和产业界终于意识到了GPU在深度神经网络训练方面的独特优势,订单像雪花一样向英伟达飘去——所以ImageNet这场比赛,其实也改变了黄仁勋的命运。

10. 但讽刺的是,2009年辛顿给英伟达写了一封邮件,想要一块免费的显卡:“我刚刚告诉一千名机器学习研究人员,他们应该去买英伟达的显卡。你能免费送我一个吗?” 然后英伟达……拒绝了。AlexNet算法用的那两块英伟达GTX580,是辛顿拿出紧张的经费自己买的。

11. 当然,ImageNet这场比赛还链接到另外两个人——一个是大赛的创办者李飞飞(图6),是华人在AI学术领域最至高的存在;另一个是辛顿团队两名学生之一的Ilya Sutskever(图7),后面是OpenAI的创始人兼首席科学家。这里就不多赘述了。

12. 参与竞标的DeepMind,拿到了马斯克的投资,然后马斯克又推荐给Google创始人拉里·佩奇,于是Google就让辛顿参与收购评估。由于辛顿腰不好(只能躺,不能坐),所以他们包了一架私人飞机,改造了座椅,让辛顿躺着飞过去。最后Google花4亿美金收购DeepMind,之后DeepMind做出了震惊世界的AlphaGo。

13. Google对辛顿团队的竞标,其实引发了一场科技大厂抢夺教授的风潮,思路很奇特:先把老师挖过来人,然后期待他们把学生也带过来。于是Facebook挖了杨立昆(图8),亚马逊挖了Alex Smola(图9),苹果挖了Ruslan Salakhutdinov(也是辛顿的学生)。这个几个人都带了很多学生加入,“带徒入组”。

14. 总之,从2012年6月的“谷歌猫”项目,到10月的ImageNet大赛,再到12月的太浩湖竞拍,差不多6个月的时间里,围绕着杰弗里·辛顿这个人,全球AI领域最重要的公司和人,几乎都串了起来。历史就是这么有意思。

15. 我们之前根据这段历史,写过一篇「2012,改变人类命运的180天」,链接附上评论里,大家有兴趣可以一看。另外,关于辛顿家族,还有很多趣事,这个大家可以看刘群老师写的这篇博文网页链接

16. 这个故事其实还有一个启发,就是中国的科技大厂,一定要参与对全球人才的盘点和追逐,虽然现在这个国际环境下越来越难,但你不参与,很多时候就可能连外面正在发生什么都不知道;你参与了,能第一时间感受到温度。越是这种环境,国内大厂越不能闭门造车。