专栏名称: 深度之眼
入行人工智能,学算法公式,写毕业论文,看经典书籍,刷全球公开课,就来深度之眼
目录
相关文章推荐
学习曾国藩  ·  一个人值不值得深交,就看这三个特征,很准! ·  4 天前  
每天60秒知天下  ·  厌学的孩子有救了!北大专家揭秘厌学症的“大脑 ... ·  2 天前  
每天60秒知天下  ·  厌学的孩子有救了!北大专家揭秘厌学症的“大脑 ... ·  2 天前  
印象笔记  ·  无畏少年与破产国家|一周收藏排行 ·  3 天前  
51好读  ›  专栏  ›  深度之眼

深度学习创新点不大但有效果,可以发论文吗?

深度之眼  · 公众号  ·  · 2024-06-06 18:18

正文

深度学习中创新点比较小,但有效果,可以发论文吗?当然可以发,但如果想让编辑和审稿人眼前一亮,投中更高区位的论文, 写作永远都是重要的。

那么该怎样“讲故事”才能让论文更有吸引力?我总结了三点: 创新的深度与广度、跨领域与应用创新、实验验证的重要性。 这么说可能比较抽象,相信我,往下看完就懂了。

另外为了让大家更直观的理解,我特别整理了一份 人工智能高质量论文写作模版 ,可以直接拿来套用。

需要的同学扫码添加小享

回复【 讲故事 】无偿获取

下面我们进入正题:

1.创新的深度与广度

➡️强调深入理解创新背后的原理:

意思是说我们不仅要看到结果,还得弄清楚为什么会有这个结果。如果我们搞了点小改进,结果变得更好了,那得想想,是因为什么让结果变好了?什么情况下结果会变好,什么情况下又不会变好?还有这个改进方法,在其他类似的地方能不能也用得上?这些问题都可以通过多做实验,多研究来搞明白。这样文章就会比较有意思了,对这个领域也有帮助。

➡️ 从更广阔的视角分析现有方法:

即使我们做的那些小改进和创新真的很有效果,但写文章的时候不能直接就说“我改了点东西”。我们可以仔细研究A和B这两个模块各自背后代表的思想,通过图表、实验数据分析它们各自的不足,然后再说我想出了xx改进方法。这样一说,别人就知道我们不仅做了改进,还对整个领域有了深入的了解,这样文章价值也提升了。

2.跨领域与应用创新

➡️ 将创新应用于新的任务或数据集:

不卷主流任务、会议或数据集,而是选择去探索新的任务、数据集或应用,虽然这算是在做应用研究,不过只要我们把研究写得清楚、实用,那么就很可能被合适的会议或期刊接受。但要注意,我们选的这个领域或问题必须是真实存在的,不能凭空捏造,不然会起反作用。而且写的时候,我们要把应用背景讲清楚,让审稿人明白我们做了什么,有什么价值。

➡️ 创造新的模块、缝合方法或不同场景应用:

这里我们可以考虑三个拓展创新以丰富文章内容的方向:开发新的网络构件(大神的选择)、探索不同的网络架构设计(就是缝模块,比如引入注意力机制增强模型性能),以及不同场景的应用(比如注意力机制从NLP应用到CV)。这里我建议选择第二种,缝模块更高效。具体操作细节在我以前的文章 《深度学习水论文怎么缝模块?搭积木永不过时!》 有写。

当然缝模块也不是轻轻松松,得先看看别人怎么做,然后根据自己的实际情况再上手。我这边已经整理好了 80个常用有效的即插即用模块 ,包括多尺度、注意力机制、卷积...代码都是可复现的,帮大家节省时间。

需要的同学扫码添加小享

回复【 讲故事 】无偿获取

3.实验验证的重要性

➡️ 强调通过大量实验来验证改进点:

在论文中我们可以不提点吗?完全可以。那接下来怎么做呢?其实很简单,根据我们做的改进,多想想,设计更多实验来验证这些方法到底好不好用。即使这篇文章没讲什么新方法,主要就是一堆实验,而且可能大家对这些实验分析的结果都心里有数了,但重点是,我们真的通过实验证明了这些结论,这才是最关键的。代表论文:谷歌Exploring the Limits of Large Scale Pre-training

基于4800多个不同的实验(2974个Vision Transformers,1593个MLP-Mixers,249个ResNet),对下游(8个不同的任务)与上游的性能进行比较。

➡️ 实践是检验真理的唯一标准:







请到「今天看啥」查看全文