深度学习创新点不足？试试贝叶斯神经网络！

大家做深度学习还卷的动吗？有没有被导师和同门师兄师姐说创新点不足？那今天我就来给大家推荐一个冷门创新点： 贝叶斯神经网络BNN ！

众所周知，传统的神经网络虽然很强大，但时常会有过拟合、泛化能力不足的问题...而且，我们往往也不清楚预测结果的可靠程度。而BNN通过引入概率分布来描述网络参数的不确定性，从而在处理数据时能够更好地应对噪声和异常值，实现更高的鲁棒性。

更赞的是， BNN不仅代码实现非常简单，还可以和LSTM、Transformer等热门网络相结合 ，在各种下游任务中显著提升模型表现。这对于论文er来讲，可以说是绝佳发文选择！近期更是有成果登上顶刊TPAMI、顶会Neurips...

为帮助想要发论文的同学快速找到创新思路，本文整理了 12篇 贝叶斯神经网络最新paper 给大家参考，开源代码已附，希望能给各位的论文加加速。

扫码添加小享， 回复“ BNN创新 ”

免费获取 全部论文+开源代码

Uncertainty quantification in multiaxial fatigue life prediction using Bayesian neural networks

方法： 论文提出了一个有效的贝叶斯神经网络模型，用于量化多轴疲劳寿命预测中的不确定性。该模型使用疲劳参数作为输入，利用No-U-turn Sampler（NUTS）和自动微分变分推断（ADVI）来解决模型中的推断问题，并为未知非比例加载路径和不同材料进行寿命预测。

创新点：

• 提出了一种基于贝叶斯神经网络（BNN）的新方法，用于多轴疲劳寿命预测及其不确定性量化。
• 开发了D2模型架构，专注于不同材料的寿命预测。该模型不仅依赖于单一材料的疲劳参数，还将材料性能参数（如极限强度和弹性模量）作为额外输入，增强了对不同材料特性的捕捉能力。

Log-Gaussian Gamma Processes for Training Bayesian Neural Networks in Raman and CARS Spectroscopies

方法： 论文提出了一种结合对数-高斯伽马过程和高斯过程的部分贝叶斯神经网络方法，用于生成和分析拉曼和CARS光谱的合成数据，旨在解决传统方法在处理测量噪声和背景信号时的不足，通过引入自动化和稳健的统计模型来提升光谱分析的准确性和效率。

创新点：

• 提出了一种新颖的方法，利用对数高斯伽马过程和高斯过程来生成合成光谱。
• 训练了两个贝叶斯神经网络，用于估计伽马过程的参数，这些参数可以用来估计拉曼光谱的底层结构，同时通过概率分布参数的估计提供不确定性信息。
• 在模型中使用高斯过程来建模拉曼和CARS光谱的加性和乘性背景函数。

扫码添加小享， 回复“ BNN创新 ”

免费获取 全部论文+开源代码

Effective Bayesian Heteroscedastic Regression with Deep Neural Networks

方法： 论文通过自然参数化和拉普拉斯近似方法，旨在解决异方差回归中神经网络的正则化问题，以提高模型的稳定性和泛化能力，从而更好地量化模型依赖的认知不确定性和不可减少的观测噪声，并在一系列回归任务中展示了该方法的可扩展性和优越性。

创新点：

• 提出使用高斯分布的自然参数化，这种方法在非线性特征映射和高斯过程的异方差回归中表现更加稳定。
• 开发了一种可扩展的拉普拉斯近似，用于深度神经网络中的异方差回归。
• 通过经验贝叶斯（EB）方法优化神经网络的层级先验精度参数，在异方差回归中实现了自动正则化。

Multi-Fidelity Bayesian Neural Network for Uncertainty Quantification in Transonic Aerodynamic Loads

方法： 论文开发了一种多保真框架，结合贝叶斯神经网络（BNNs）和迁移学习（TL），以提高跨音速翼型气动负载预测的准确性。该框架显著优于传统方法如Co-Kriging，通过对不同保真度数据源的整合，填补现有研究在不确定性量化和数据整合方面的空白。