ICLR 2025 | TUM、北大联合提出ConFIG：迈向无冲突训练的逆梯度方法

© 作者 | 刘强、楚梦渝

单位 | 慕尼黑工业大学、北京大学

研究方向 | 深度学习

针对这一问题，来自慕尼黑工业大学和北京大学的联合研究团队提出了 ConFIG（Conflict-Free Inverse Gradients，无冲突逆梯度）方法 ，为多损失项优化提供了一种稳定、高效的优化策略。ConFIG 提供了一种优化梯度 ，能够防止由于冲突导致优化陷入某个特定损失项的局部最小值。ConFIG 方法可以在数学上证明其收敛特性并具有以下特点：

• 最终更新梯度 与所有损失项的优化梯度均 不冲突 。

• 在每个特定损失梯度上的投影长度是均匀的，可以确保所有损失项以 相同速率 进行优化。

• 长度可以根据损失项之间的冲突程度 自适应 调整。

论文标题 ：

ConFIG: Towards Conflict-free Training of Physics Informed Neural Networks

论文链接 ：

https://arxiv.org/abs/2408.11104

代码链接 ：

https://github.com/tum-pbs/ConFIG

ConFIG: 无冲突逆梯度方法

目标： 给定 个损失函数 ，其对应梯度为 。我们希望找到一个优化方向 ，使其满足： 。即所有损失项在该方向上都能减少，从而避免梯度冲突。

假设存在一个无冲突更新梯度，我们可以引入一个新的矢量 。由于 是一个无冲突梯度， 应为一个正向分量矢量。同样地，我们也可以预先定义一个正向分量矢量 ，然后直接通过矩阵的逆运算求得无冲突更新梯度 ，即 。通过给定不同的正向分量矢量 ，我们得到由一系列不同 组成的无冲突优化区间。

具体优化方向 ： 相比于直接求解梯度矩阵的逆，ConFIG 方法求解了 归一化梯度矩阵的逆 ，即 ，其中 表示第 个梯度向量的单位向量。

可以证明，变换后 矢量的每个分量代表了每个梯度 与最终更新梯度 之间的余弦相似度。因此，通过设定 分量的不同值可以直接控制最终更新梯度对于每个损失梯度的优化速率。在 ConFIG 中， 被设定为单位矢量以确保每个损失具有相同的优化强度从而避免某些损失项的优化被忽略。

优化梯度大小 ： 此外，ConFIG 方法还根据梯度冲突程度调整步长。当梯度方向较一致时，加快更新；当梯度冲突严重时，减小更新幅度： , 其中 为每个梯度与最终更新方向之间的余弦相似度。

• 使用梯度的 动量 （指数移动平均）代替梯度进行 ConFIG 运算。

• 在每次优化迭代中，仅对 一个或部分 损失进行反向传播以更新动量。其它损失项的动量采用之前迭代步的历史值。

在实际应用中，M-ConFIG 的计算成本往往 低于 标准更新过程或基于权重的方法。这是由于反向传播一个子损失 往往要比反向传播总损失 更快。这在物理信息神经网络中尤为明显，因为边界上的采样点通常远少于计算域内的采样点。在我们的实际测试中，M-ConFIG 的平均计算成本为基于权重方法的 0.56 倍。

结果：更快的收敛，更优的预测

结果显示，在相同训练迭代次数下，ConFIG 方法是唯一一个相比于标准 Adam 方法始终获得正向提升的方法。对每个损失项变化的单独分析表明，ConFIG 方法在略微提高 PDE 训练残差 的同时大幅降低了边界和初始条件损失 ，实现了 PDE 训练精度的 整体提升 。