微软发布Aurora：大气领域的Foundation Model！

Aurora

微软在近期发布了大气AI模型Aurora ：https://arxiv.org/abs/2405.13063。

Aurora是一个1.3B参数的Foundation Model ，在不同变量、等压面和分辨率的多个异构数据集上进行预训练。这些数据集包含气候模拟、再分析、分析和预测数据。在此基础上，模型可以针对各种任务进行微调。

论文给出了Aurora对5天内全球空气污染和10天内0.1°高分辨率天气预报能力，展示了卓越的分辨率、准确率和适应性。

Aurora是大气领域第一个大规模Foundation Model。通过特别设计的3D perceiver encoder/decoder，不同维度的大气信息将被压缩为统一的3D Latent Representation，模型的主要结构则采用了3D Swin Taransformer Unet。配合LoRA微调技术， 该模型将能被应用于大气相关的广泛领域 。

Foundation Model及其扩展能力是AI在各领域成功的关键。我们期待Aurora的发布为“大模型”在大气领域应用迈出坚实的第一步。

Who We Are