8月19日下午,由雷锋网主办,清华数据派THU承办的第二期“GAIR大讲堂CVPR清华专场”活动圆满结束,本次活动共吸引来自北京各大高校100多名同学前来倾听。AI科技评论作为独家合作媒体也前往活动现场进行了报道。
当日虽酷暑难耐,现场还是座无虚席。部分同学因天气太热拿起了人手一份的活动宣传页扇风降温,也没选择离开活动场地,这足以看出他们对本次活动的关注热情。
活动现场
四位分享嘉宾分别是:
清华大学自动化系三年级博士生 段岳圻
Momenta 研发总监&联合创始人 孙刚
中科大&微软亚洲研究院联合培养博士生 郑贺亮
中科大&微软亚洲研究院联合培养博士生 邱钊凡
段岳圻分享的论文题目是:Learning Deep Binary Descriptor with Multi-Quantization (多量化深度二值特征学习)
他分别从四个方面介绍了他的论文研究:背景介绍,文章方法,实验结果,参会心得。
图中
「存储库图片特征」
和「
特征匹配
」为什么标注橘红色了呢?段岳圻介绍道,像训练模型、提取库图片特征都可以线下花几个月搞定,而存储库里的图片特征要一直存储在云端里,不然输入的图片没有办法进行特征对比。在线部分中的特征匹配也是需要很多轮的特征对比和匹配,所以做了重点标注。该论文用的是非监督深度学习方法,非监督或弱监督学习是未来发展趋势,大名鼎鼎的杨立昆(YannLeCun)教授曾说过,非监督学习是让机器获得常识的一个尝试。
文章方法介绍:深度二值特征学习因其存储和匹配的高效性,近年来在学术界持续受到关注。现有的深度二值特征学习方法采用符号函数对实值特征进行二值化,未能考虑数据分布,从而导致了较大的量化损失。这篇论文将二值化过程看作非监督多量化问题,提出了基于K-自编码网络的深度多量化算法,并将其应用于深度二值特征学习,提出了多量化深度二值特征学习,降低了二值化造成的量化损失。实验结果证明了本文方法的有效性。
最后段岳圻同学也分享了CVPR 2017的参会心得。
第二位分享嘉宾是Momenta 研发总监、联合创始人孙刚博士,分享题目是:ImageNet冠军模型SE-Net详解。
孙刚博士不仅是Momenta 研发总监、联合创始人,同时还是高性能并行计算系统专家、大规模图像识别专家、ImageNet 2017 图像分类冠军、ImageNet 2016 场景分类亚军。这篇论文作者提出了一种新颖的神经网络模块称为Squeeze & Excitation(简称SE),以此大幅提升模型的精度。通过Squeeze 和Excitation操作,SE模块自动对特征重新分配权重,增强对识别有用的特征,而抑制无效或收益甚微的特征。在引入极少计算和参数量的情况下,将现有绝大多数网络结构的性能大幅提升。
第三位分享嘉宾是中科大&微软亚洲研究院联合培养博士生郑贺亮。
郑贺亮在大四开学时就进入微软亚洲研究院实习,期间在同一实验室师兄师姐们的鼓励下,首次投CVPR论文就被选中。
他的论文题目是:Look Closer to See Better: Recurrent Attention Convolutional Neural Network for Fine-Grained Image Recognition(精细化物体识别中基于递归注意力模型的卷积神经网络)
近年来,基于弱监督的精细化物体识别问题倍受关注。现存的主流方法分两种:对于有判别力区域的定位和对精细化特征的学习。在这篇CVPR文章里,郑贺亮和其他的作者通过设计一种RA-CNN的网络结构,将不同尺度的重要区域综合起来进行分类,实现了定位和精细化特征学习之间的相互促进,在精细化物体分类的任务上取得非常理想的结果。
在分享CVPR参会心得时,郑贺亮同学总结了三点:
「You are not alone」你并不孤单。
在实验室中每个人研究的课题都不一样,但是到大会上会有很多workshop,每个方向都有很多人研究。你可以找到兴趣相同的朋友 ,甚至可以深入讨论实验的细节,有一种彼此相通的感觉。
「Paper is not the end」发表论文并不是终点。
到大会上你会发现大牛研究的都是一条线,而不是一个点。他们发的论文只是这条线上的某个点,在研究过程中他们是遵从自己的一个思路的。所以我们在做学术研究时也要慢慢形成自己的方法论,而不仅仅是找到解决问题的方法。
「Research changes the world」科研改变世界。
到大会上才能真切感受到自己做的学术研究成果真的可以影响世界,改变世界。
第四位嘉宾是中科大&微软亚洲研究院联合培养博士生邱钊凡。
他分享论文题目是:Deep Quantization: Encoding Convolutional Activations with Deep Generative Model (基于深度生成模型的卷积层特征提取整合)
邱钊凡列了一个提纲,从八个方面依次介绍了自己目前所在做的研究方向。