传统方法在处理大规模图像和复杂卷积核时，常因固定的感受野和采样位置难以适应物体形状变化，导致对几何形变的适应能力弱、计算效率和性能下降。
为解决这些问题，我们提出了可变形卷积+注意力机制：通过引入可学习的偏移量，让卷积过程能够适应物体形状的变化，提高模型的适应性和特征提取能力；同时，注意力机制可以动态地关注输入数据中的重要特征，提高模型的性能和效率。
因此这种方法在多个领域都有广泛应用，它的高泛化性也让我们能更好地处理新数据集或任务，与之相关的研究热度自然就十分高涨。为了方便大家追热点找创新，本文整理了11种最新的可变形卷积+注意力机制方案给各位作参考，代码基本都有，有问题欢迎讨论~
扫码添加小享，回复“可变C注意”
免费获取全部论文+代码合集
Efficient Deformable ConvNets: Rethinking Dynamic and Sparse Operator for Vision Applications
方法：作者讨论了可变形卷积与注意力机制的结合，并提出了一种高效的动态稀疏操作符DCNv4，通过重新设计可变形卷积的动态特性和优化内存访问，以显著提升其速度和性能，解决了DCNv3在内存访问成本和运行速度上的限制。
创新点：
- 通过去除空间聚合中的 softmax 归一化，DCNv4 提升了其动态特性和表达能力。
- DCNv4 通过优化内存访问，减少冗余操作，从而大幅提升了处理速度。最终设计使 DCNv4 的前向计算速度提高了三倍，成为速度最快的核心视觉算子之一。
- DCNv4 在生成模型中的有效性得到了验证，尤其是在使用 U-Net 的潜在扩散模型中。
FADNet: Greenhouse Identification with Fusion Attention Mechanism and Deformable Convolution
方法：论文提出了一个名为FADNet的新型深度学习模型，它结合了融合注意力机制和可变形卷积技术，用于从遥感卫星图像中识别温室。FADNet模型在数据增强后实现了训练集准确率达到99.8%和测试集准确率达到99.6%的优异性能。
创新点：
- FADNet模型结合了融合注意力机制和可变形卷积技术。这种结合使得模型能够更加精确地识别和分割温室目标，尤其是在城市区域与温室特征相似的干扰中。
- 鉴于温室数据集的稀缺性和正负样本分布的不均衡，FADNet通过数据增强技术从多个角度扩展了数据集，以满足模型训练的需求。
扫码添加小享，回复“可变C注意”
免费获取全部论文+代码合集
Intelligent skin lesion segmentation using deformable attention Transformer U‐Net with bidirectional attention mechanism in skin cancer images
方法：论文介绍了一种基于可变形注意力Transformer U-Net的智能皮肤病变分割模型，该模型结合了可变形卷积和双向注意力机制来提高皮肤癌图像中皮肤病变分割的精度。实验证明BiADATU-Net在所有数据集上的准确率均超过了96%。
创新点：
- 设计了一种名为BiADATU-Net的新型医疗图像分割框架，以端到端的方式集成了两种不同的注意力模块到可变形注意力Transformer U-Net结构中。
- 在模型中引入了新的注意力机制模块，包括DAD-block和scSED-block，这些模块通过动态调整对输入数据重要部分的关注，增强了模型的表现力和泛化能力。
DSAN: Exploring the Relationship between Deformable Convolution and Spatial Attention
方法：论文探讨了可变形卷积与空间注意力之间的关系，并提出了一种新的网络结构DSAN，该网络结构结合了这两种机制，以提高轻量级卷积神经网络的性能。另外，还提出了基于空间注意力的变形采样模块DSA，以提高模型的形状适应性并减少计算负担。
创新点：
- 针对轻量级卷积神经网络（CNNs），提出了一种简化版的可变形卷积操作DSCN，它减少了计算负载和参数数量，同时保持了DCNv3的变形采样特性。
- 基于DSCN，提出了一种新的注意力模块DSA，用空间注意力机制替代了DCNv3中的调制掩码分支，以减少参数和内存消耗。
扫码添加小享，回复“可变C注意”
免费获取全部论文+代码合集
