专栏名称: 学姐带你玩AI
这里有人工智能前沿信息、算法技术交流、机器学习/深度学习经验分享、AI大赛解析、大厂大咖算法面试分享、人工智能论文技巧、AI环境工具库教程等……学姐带你玩转AI!
51好读  ›  专栏  ›  学姐带你玩AI

被审稿人说“创新性不够”...深度学习方向怎么找创新点?

学姐带你玩AI  · 公众号  ·  · 2024-06-01 18:09

正文

在已经看完某一系列论文之后,很多人在写论文时依然苦恼于没有创新点,其实只要抓住以下这五点,就能轻松搞定:

  • 数据集的改动
  • 模型的问题
  • 现有结构替换
  • 特定场景的应用
  • 模块的缝合

从这五点出发,锁定有价值的方向,快速形成一篇论文。

1.数据集的改动

不对模型进行大的调整,而是通过改变输入数据来考虑问题。 例如,增加噪声、几何变换、遮挡处理、光照变化以及场景依赖等。

我们可以从数据本身和数据增强两个角度来切入,也就是说当数据发生变化时,限制方法的性能是否会变差?如果模型层面不变动,如何仅通过改变数据集来分析特定领域方法的性能变化或提升方法性能?这种思路相对来讲是比较简单的。

以DataCLUE为例

这里为了让大家可以更好的理解并运用,我给大家收集了一份 超全数据集仓库 ,里面有包括目标检测、工业缺陷检测、人脸识别、姿态估计、图像分割、图像识别等 12个方向90多个深度学习开源数据集

需要的同学扫码添加小享

回复【 创新点宝藏 】无偿获取

2.模型的问题

首先,我们需要审视特定领域中主流模型的各种特性,比如推理速度、训练时的收敛难度、是否为端到端算法、以及后处理步骤是否存在冗余。

通过识别现有方法的缺点,我们可以选择一个特定的改进方向 ,比如如果后处理步骤过于繁琐,那么可以专门研究如何简化这一步骤。这种思路需要先分析导致后处理低效的原因,然后有针对性地进行优化。

3.现有结构替换

通过替换或添加新模块来改进现有模型结构。 以Transformer为例。

Transformer原本应用于NLP领域,但这几年也被引入到CV领域,用于图像分类、物体检测和分割等任务。Transformer的核心是注意力机制,这种机制可以作为即插即用的模块,在不同的网络层中添加来解决特定问题。比如说我们通过添加注意力机制,解决了什么问题,就这样在这个基础上“讲故事”。

4.特定场景的应用

对于非计算机科学背景的人,比如机械、农业或林业等专业,在进行与AI结合的科研项目时,可以考虑通用模型与特定场景应用之间的平衡。

通用模型追求泛化能力,而针对特定场景(如夜间、水下或鱼眼相机检测)的模型更专注于细化的任务。这种特定场景的研究通常竞争较小,更容易产出成果。所以 如果是新进入一个领域,我们应该考虑改进特定场景下的算法 ,而不是直接尝试改进通用算法,除非能够提出非常创新的想法。

以FisheyeDetNet为例

5.模块的缝合

利用现有的模型组件或模块,并将它们组合起来构建一个新的模型。

在深度学习领域,缝合模块是一种创新的工程实践,这种方法不需要从零开始设计模型,而且这些模块往往是即插即用的,可以被快速地集成到现有系统中,简化了实验过程,这样我们就可以快速尝试不同的组合,找到最佳的解决方案。另外,缝合模块提供了高度的灵活性,我们可以根据特定的应用场景进行定制。

为了方便大家学习,节省查找资料的时间,我这里也收集了 69个即插即用模块 ,包括:

  • attention模块: 提供计算高效、易于集成且能显著提升模型性能的组件,简化了深度学习模型的开发流程。
  • 快速傅里叶卷积模块:






请到「今天看啥」查看全文