专栏名称: 机器之心
专业的人工智能媒体和产业服务平台
目录
相关文章推荐
新智元  ·  刚刚,OpenAI史上最贵API上线!o1- ... ·  昨天  
机器之心  ·  Cursor重磅上线Claude ... ·  昨天  
爱可可-爱生活  ·  ϕ-Decoding: ... ·  2 天前  
宝玉xp  ·  Google 也发力了,正在灰度发布 ... ·  2 天前  
51好读  ›  专栏  ›  机器之心

ICLR 2025 Oral|突破深度学习求解PDE的瓶颈,清华提出空间调控新范式GridMix

机器之心  · 公众号  · AI  · 2025-03-20 18:02

正文

图片

近年来,深度学习在偏微分方程(PDEs)求解中展现出前所未有的潜力。从气象模拟到材料科学,基于数据驱动的神经网络模型正不断重塑科学计算的边界。尤其是神经场(Implicit Neural Representations,INRs),凭借其连续参数化的特性,能够实现跨几何形态的高分辨率建模,在复杂场景下展现出卓越的精度和灵活性。

然而,当面对具有剧烈空间变化的场景时,现有 INR 方法暴露出明显的瓶颈。传统的全局调控机制要求模型在所有空间位置共享同一组调控参数,这种方式在捕捉局部细节特征时显得力不从心。随着场景复杂度的提升,全局调控不仅 限制了模型精度 ,还导致 泛化能力下降

为了解决这一难题,清华大学研究团队提出了一种创新的空间调控方法 ——GridMix。灵感来源于谱方法的思想,GridMix 将空间调控参数表示为一组网格基函数的线性组合。GridMix 具备以下特点:

  • 保留了空间调控的 细粒度局部性 ,确保建模精度;

  • 同时通过共享基函数提取 全局结构信息 ,有效缓解了过拟合风险。


在一系列挑战性的 PDE 建模任务中,GridMix 展现出了显著的性能提升。特别是在稀疏空间域和时间外推场景下,其鲁棒性表现尤为突出。该研究已被 ICLR 2025 接收,并获选为 Oral 论文(入选比例 1.8%)。


  • 论文标题: GridMix: Exploring Spatial Modulation for Neural Fields in PDE Modeling

  • 论文地址: https://openreview.net/forum?id=Fur0DtynPX

  • 项目主页: https://github.com/LeapLabTHU/GridMix.git

方法

本文研究聚焦于偏微分方程(PDE)建模任务,其核心是近似算子 该算子根据底层 PDE,将输入空间 中的函数映射到输出空间 此处 表示定 义域为且值域为 的平方可积函数构成的无限维空间。 我们重点研究以下两类典型任务:

  • 动态系统建模:旨在捕捉物理系统在预测时间范围内的动态演化过程。具体表现为建模系统从状态 到状态 的转移过程,其中 表示时间步长。

  • 几何感知预测:根据系统的几何构型预测其状态。


在几何预测中,每个数据样本分布于不同的空间域 上; 而对于动力学建模,所有样本使用相同的训练空间域 ,测试时则采用与训练域不同的空间域来评估模型性能。 需特别说明的是, 均为完整域 的子集。

基于 INR 的 PDE 建模方法

CORAL 是最具创新性的 INR 方法之一,它通过两阶段训练策略解决偏微分方程建模问题。在第一阶段(重构阶段),该框架采用两个神经调控场 分别对输入和输出函数进行参数化建模。这些神经调控场 作为基础模型,通过不同调制参数实现对不同函数的重构。具体而言,INR 参数 在各自函数空间中共享,而调制参数和则是每个函数特有的。 这些调制参数通过超网络 从低维调控向量 中生成: 经训练后,每个函数可由低维调控向量经过共享 INR 重构,其重构误差代表了表示质量。 在第二阶段(预测阶段),CORAL 通过处理网络 学习调控编码 之间的映射关系。

图 1. 基于 INR 的 PDE 建模框架






请到「今天看啥」查看全文