本研究提出了一种方法，能够在领域数据分布持续变化的动态环境中，基于随机时刻观测的数据分布，在任意时刻生成适用的神经网络。下图展示了模型在领域数据随时间发生旋转和膨胀时的泛化表现。通过在一些随机时间点（蓝色标记点）的观测，模型可以在任意时刻生成适用的神经网络，其决策边界始终与数据分布保持协调一致。
摘要
在实际应用中，数据集的数据分布往往随着时间而不断变化，预测模型需要持续更新以保持准确性。时域泛化旨在预测未来数据分布，从而提前更新模型，使模型与数据同步变化。然而，传统方法假设领域数据在固定时间间隔内收集，忽视了现实任务中数据集采集的随机性和不定时性，无法应对数据分布在连续时间上的变化。此外，传统方法也难以保证泛化过程在整个时间流中保持稳定和可控。
为此，本文提出了
连续时域泛化
任务，并设计了一个基于模型动态系统的时域泛化框架Koodos，使得模型在连续时间中与数据分布的变化始终保持协调一致。Koodos通过库普曼算子将模型的复杂非线性动态转化为可学习的连续动态系统，同时利用先验知识以确保泛化过程的稳定性和可控性。实验表明，Koodos显著超越现有方法，为时域泛化开辟了全新的研究方向。
作者
论文链接：https://arxiv.org/pdf/2405.16075
开源代码：https://github.com/Zekun-Cai/Koodos/
OpenReview: https://openreview.net/forum?id=G24fOpC3JE
我们在代码库中提供了详细的逐步教程，涵盖了Koodos的实现、核心概念的解读以及可视化演示。整个教程流程紧凑，十分钟即可快使掌握Koodos的使用方法，力荐尝试！
情景导入
在实际应用中，训练数据的分布通常与测试数据不同，导致模型在训练环境之外的泛化能力受限。
领域泛化
（Domain Generalization, DG）作为一种重要的机器学习策略，旨在学习一个能够在未见目标领域中也保持良好表现的模型。近年来研究人员发现，在动态环境中，领域数据（Domain Data）分布往往具有显著的时间依赖性，这促使了
时域泛化
（Temporal Domain Generalization, TDG）技术的快速发展。时域泛化将多个领域视为一个时间序列而非一组独立的静态个体，利用历史领域预测未来领域，从而实现对模型参数的提前调整，显著提升了传统DG方法的效果。
然而，现有的时域泛化研究集中在“
离散时间域
”假设下，即假设领域数据在固定时间间隔（如逐周或逐年）收集。基于这一假设，概率模型被用于预测时域演变，例如通过隐变量模型生成未来数据，或利用序列模型（如LSTM）预测未来的模型参数。然而在现实中，
领域数据的观测并不总是在离散、规律的时间点上，而是随机且稀疏地分布在连续时间轴上
。例如，图 1 展示了一个典型的例子——基于推文数据进行社交媒体舆情预测。与传统 TDG 假设的领域在时间轴上规律分布不同，实际中我们只能在特定事件（如总统辩论）发生时获得一个域，而这些事件的发生时间并不固定。同时，
概念漂移
（Concept Drift）在时间轴上发生，即领域数据分布随着时间不断演变：如活跃用户增加、新交互行为形成、年龄与性别分布变化等。理想情况下，每个时态域对应的预测模型也应随时间逐渐调整，以应对这种概念漂移。最后，由于未来的域采集时间未知，我们希望可以泛化预测模型到未来任意时刻。
图1：连续时域泛化示意图。图中展示了通过推文训练分类模型进行舆情预测。其中训练域仅能在特定政治事件（如总统辩论）前后采集。我们希望通过这些不规律时间分布的训练域来捕捉分布漂移，并最终使模型能够推广到任意未来时刻。
事实上，领域分布在连续时间上的场景十分常见，例如：
事件驱动的数据采集
：仅在特定事件发生时采集领域数据，事件之间没有数据。
流数据的随机观测
：领域数据在数据流的任意时间点开始或结束采集，而非持续进行。
离散时态域但缺失
：尽管领域数据基于离散时间点采集，但部分时间节点的领域数据缺失。
为了应对这些场景中的模型泛化，我们提出了“
连续时域泛化
”（Continuous Temporal Domain Generalization, CTDG）任务，其中观测和未观测的领域均分布于连续时间轴上随机的时间点。
CTDG 关注于如何表征时态领域的连续动态，使得模型能够在任意时间点实现稳定、适应性的调整，从而完成泛化预测
。
核心挑战
CTDG任务的挑战远超传统的TDG方法。CTDG不仅需要处理不规律时间分布的训练域，更重要的是，它旨在让模型
泛化到任意时刻
，即要求在连续时间的每个点上都能精确描述模型状态。而TDG方法则仅关注未来的单步泛化：在观测点优化出当前模型状态后，只需将其外推一步即可。这使得CTDG区别于TDG任务：
CTDG的关键在于如何在连续时间轴上同步数据分布和模型参数的动态演变，而不是仅局限于未来某一特定时刻的模型表现
。
具体而言，与TDG任务相比，CTDG的复杂性主要来自以下几个尚未被充分探索的核心挑战：
-
如何建模数据动态并同步模型动态
CTDG要求在连续时间轴上捕捉领域数据的动态，并据此同步调整模型状态。然而，数据动态本身难以直接观测，需要通过观测时间点来学习。此外，模型动态的演变过程也同样复杂。理解数据演变如何驱动模型演变构成了CTDG的首要挑战。
-
如何在高度非线性模型动态中捕捉主动态
领域数据的预测模型通常依赖过参数化（over-parametrized）的深度神经网络，模型动态因此呈现出高维、非线性的复杂特征。这导致模型的主动态嵌藏在大量潜在维度中。如何有效提取并将这些主动态映射到可学习的空间，是CTDG任务中的另一重大挑战。
-
如何确保长期泛化的稳定性和可控性
为实现未来任意时刻的泛化，CTDG必须确保模型的长期稳定性。此外，在许多情况下，我们可能拥有数据动态的高层次先验知识。如何将这些先验知识嵌入CTDG的优化过程中，进而提升泛化的稳定性和可控性，是一个重要的开放性问题。
技术方法
问题定义
设计思路
我们的方法通过模型与数据的同步、动态简化表示，以及高效的联合优化展开。具体思路如下：
-
同步数据和模型的动态
我们证明了连续时域中模型参数的连续性，而后借助神经微分方程（Neural ODE）建立模型动态系统，从而实现模型动态与数据动态的同步。
-
表征高维动态到低维空间
我们将高维模型参数映射到一个结构化的库普曼空间（Koopman Space）中。该空间通过可学习的低维线性动态来捕捉模型的主要动态。
-
联合优化模型与其动态
我们将单个领域的模型学习与各时间点上的连续动态进行联合优化，并设计了归纳偏置的约束接口，通过端到端优化保证泛化的稳定性和可控性。
解决方案
Step 1. 数据动态建模与模型动态同步
这一结果表明，
如果数据分布的演化在时间上具有连续性，那么
θt
的演化过程也具有连续性
，即模型参数会随数据分布的变化而平滑调整。
上式为
θt
建立了一个由微分方程描述的模型动态系统
。
Step 2. 通过库普曼算子简化模型动态
Step 3. 联合优化与先验知识结合
-
模型及其动力学的联合优化
我们对多个组件同时施加约束确保模型能稳定泛化，其包含以下关键项：
-
预测准确性：通过最小化预测误差，使预测模型在每个观测时间点都能准确预测实际数据。
-
泛化准确性：通过最小化预测误差，使泛化模型在每个观测时间点都能准确预测实际数据。
-
重构一致性：确保模型参数在原始空间与库普曼空间之间的转换具有一致性。
-
动态保真性：约束库普曼空间的动态行为，使得映射后的空间符合预期的动态系统特征。
-
参数一致性：确保泛化模型参数映射回原始空间后与预测模型参数保持一致。
-
利用库普曼算子评估和控制泛化过程
引入库普曼理论的另一优势在于，我们可以通过库普曼算子的
谱特性
来评估模型的长期稳定性。此外，还可以在库普曼算子中施加约束来控制模型的动态行为。
-
系统稳定性评估
通过观察库普曼算子的特征值，可以判断系统是否稳定：
-
若所有特征值实部为负，系统会稳定地趋向于一个平衡状态。
-
若存在特征值实部为正，系统将变得不稳定，模型在未来可能会崩塌。
-
若特征值实部为零，系统可能表现出周期性行为。
通过分析这些特征值的分布，我们可以预测系统的长期行为，识别模型在未来是否可能出现崩溃的风险。
-
泛化过程约束
我们可以通过对库普曼算子施加显式约束来调控模型的动态行为。例如：
实验
实验设置
为验证算法效果，我们使用了合成数据集和多种真实世界场景的数据集：
-
合成数据集
：包括 Rotated 2-Moons 和 Rotated MNIST 数据集，通过在连续时间区间内随机生成时间戳，并对 Moons 和 MNIST 数据按时间戳逐步旋转生成连续时域。
-
真实世界数据集
：
事件驱动数据集
Cyclone：基于热带气旋的卫星图像预测风力强度，气旋发生日期对应连续时域。
流数据集
Twitter 和 House：分别从任意时间段抽取推文和房价数据流构成一个领域，多次随机抽取形成连续时域。
不规则离散数据集
Yearbook：人像图片预测性别，从 84 年中随机抽取 40 年数据作为连续时域。
