专栏名称: 猿大侠
猿大侠,既然选择了,就一定成为大侠! 小程序、小游戏、Google、苹果、职场、前沿技术分享,一起成长。
目录
相关文章推荐
植物星球  ·  檫木终于开启了这个春天 ·  2 天前  
植物星球  ·  樱花树上长了木耳和灵芝,采不采? ·  3 天前  
植物星球  ·  雨水是春的开始 ·  5 天前  
51好读  ›  专栏  ›  猿大侠

上海交大新聘AI博导,27岁!

猿大侠  · 公众号  ·  · 2024-12-02 12:08

正文

白小交 衡宇
量子位 | 公众号 QbitAI

一份高校教职任命引发全网热议,冲上热搜第一:

1997年出生的清华叉院毕业生张林峰,今年6月拿下博士学位,现已担任上海交通大学人工智能学院助理教授、博士生导师,领导 EPIC (Efficient and Precision Intelligent Computing)) 实验室。

1997年在潍坊出生,那就是才27岁啊!

张林峰的个人主页显示,他的研究方向包括大模型量化、高效推理等。

此前,已发表一作和通讯作者论文20余篇,谷歌学术被引数超2000次。

其中,最高引论文面向模型压缩方向,是张林峰大四时候完成的项目。

不仅单篇被引数过1000,还被同方向大神MIT副教授韩松 (2023年斯隆研究奖得主、深鉴科技联合创始人) ,写进了《TinyML and Efficient Deep Learning Computing》这门课程的Lecture 9《Knowledge Distillation》。

一时之间,各大平台都在讨论这位新晋博导,不仅在知乎浏览量超80万,还在微博热搜第一挂了6个小时,阅读量近6000万。

网友围观感慨之余,有打趣的,be like:

更多的是赞叹,这教科书版的人生,每一步都值得借鉴。

27岁的上交大博导

张林峰本科毕业于东北大学计算机科学与工程学院,是2019年的优秀毕业生。

本科毕业后,张林峰直博进入清华大学交叉信息研究院,师从副教授马恺声。


读博期间,张林峰发表了20余篇论文,其中有13篇都是一作。

自2020年起,他还常年担任NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP等众多学术会议与期刊的审稿人。

今年6月顺利毕业时,张林峰同时获北京市优秀毕业生,清华大学优秀博士论文,清华大学启航奖金奖,交叉信息研究院优秀毕业生,并作为学院代表在参与清华大学毕业生座谈会,在毕业典礼上发言。

今年8月,他又在香港科技大学(广州)的人工智能学域助理教授、副研究员以及博士生导师胡旭明的邀请下,赴香港科技大学(广州)兼任访问助理教授。

他的主要研究方向为高效的人工智能,包括大模型、人工智能数据集的压缩与加速等,大概如下:

  • 轻量高效的语言/多模态大模型

  • 轻量高效的AIGC模型

  • 数据高效的人工智能

据他个人主页介绍,他的研究成果已在华为、交叉信息核心技术研究院等公司/机构中得到使用。

翻看张林峰的谷歌学术主页,截至本文发稿,他的被引数为2223次。

最高引论文《Be your own teacher: lmprove the performance of convolutional neuranetworks via self distillation》 (《通过自蒸馏提高卷积神经网络的性能》) 发表于ICCV2019,也就是张林峰大四的时候。

他是论文一作,同时这篇论文也是他博导马恺声的最高引论文 (doge)

这篇文章提出一种自蒸馏方法:使用模型的深层来蒸馏浅层。

该方法将目标CNN按深度和原始结构划分为几个浅层部分,在每个浅层部分后设置一个由瓶颈层和全连接层组成的分类器 (仅在训练时使用,推理时可移除)

训练时,所有浅层部分及其分类器作为学生模型,通过蒸馏从最深层部分 (视为教师模型) 获取知识。

在显著提高CNN性能的同时,训练时间也更短。

这篇论文首次证明了知识蒸馏中的教师模型并非必需,推动了无教师知识蒸馏领域的发展。

《人民日报》微信公众号今早也发布了一篇介绍张林峰的推文。

其中写道,毕业时,张林峰放弃了多家企业给出的百万薪资,选择到上海交通大学人工智能学院任教,开展科研与教育工作。

张林峰表示:

我觉得做科研是一件很好玩儿的事。
有一个好老师去引导是非常重要的。在清华时,我的导师就曾经很好地引导了我的科学之路。
我也想为更多的同学营造一个有趣、有意义的科研环境。

年轻博士成AI科研主力军

像张林峰这样并非个例,越来越多的博士年纪轻轻就开始当博导,成为AI科研的主力军。

他的导师 马恺声 就是一位。

目前他是清华大学叉院助理教授、博士生导师,2018年才从宾夕法尼亚州立大学计算机科学与工程系博士毕业,同年被姚期智招募回国,并入职清华大学。而张林峰应该算得上他第一波带出来的博士生。

他的主要研究方向包括Chiplet后摩尔时代体系架构、AI算法设计等,曾设计出全模式稀疏与量化结合的AI芯片“启明910”和“启明920”,在此基础上,设计了基于Chiplet技术的大算力芯片“启明930”,在良率、成本、迭代速度方面达到领先水平。

还有今年曾邀请过他去港科大(广州)访问的 胡旭明 教授。







请到「今天看啥」查看全文