标题:
Graph Foundation Models: Concepts, Opportunities and Challenges
作者:
Jiawei Liu*, Cheng Yang*, Zhiyuan Lu, Junze Chen, Yibo Li, Mengmei
Zhang, Ting Bai, Yuan
Fang, Lichao Sun, Philip S. Yu, and Chuan Shi
链接:
https://ieeexplore.ieee.org/document/10915556
摘要:
基础模型已成为多种人工智能应用中的关键组件,并在自然语言处理及其它多个领域展示了显著的成功。同时,图机器学习领域正在经历从浅层方法到更为复杂的深度学习方法的范式转变。基础模型在泛化和适应能力方面的表现激励了图机器学习的研究者讨论开发新图学习范式的可能性。这种新范式设想模型能够在大量的图数据上进行预训练,并能够适应各种图任务。尽管对此兴趣日益增长,但在这一新兴领域中,明显缺乏明确的定义和系统的分析。为此,本文介绍了图基础模型(Graph Foundation Models, GFMs)的概念,并对其关键特性和底层技术进行了详尽的解释。我们根据现有工作对图神经网络和大型语言模型的依赖程度,将其分类为三个不同的类别。除了对GFMs当前状态提供一个全面的回顾之外,本文还展望了在这个快速发展的领域中未来研究的潜在方向。