【UIUC团队打造图片生成扩散模型,可用于电子商务生成式推荐】
在很多现实生活中的信息图(比如 #社交网络# /学术网络)中,节点常常伴随有文本和图像信息。比如,在 #电子商务网络# 中,我们可以使用商品作为节点以及使用商品之间的共同购买关系作为边,来构建用户行为网络。
那么在这个网络中,商品节点其实是会伴随有商品文本描述/商品图片这类信息的。再比如,在艺术作品网络中,我们可以将艺术作品作为节点,艺术品之间的“相似风格”或者“相同作者”关系作为边。同样,在这个网络中,艺术作品作为节点是有标题/照片信息的。
当我们想要分析和挖掘此类信息网络的时候,节点文本信息/节点图片信息/信息网络结构信息这三种模态信息都是重要的。然而,目前的工作比如大语言模型、生成扩散模型、图神经网络主要都只针对这三类信息中的一类进行精细化处理,而忽略了三者的结合。
鉴于这个背景,美国 #伊利诺伊大学# 金博文博士和所在团队开展了这样一项研究:如何通过模型将节点文本信息/节点图片信息/信息网络结构信息这三种模态信息同步编码,来完成此类信息图上任务的问题。
戳链接查看详情: 网页链接
在很多现实生活中的信息图(比如 #社交网络# /学术网络)中,节点常常伴随有文本和图像信息。比如,在 #电子商务网络# 中,我们可以使用商品作为节点以及使用商品之间的共同购买关系作为边,来构建用户行为网络。
那么在这个网络中,商品节点其实是会伴随有商品文本描述/商品图片这类信息的。再比如,在艺术作品网络中,我们可以将艺术作品作为节点,艺术品之间的“相似风格”或者“相同作者”关系作为边。同样,在这个网络中,艺术作品作为节点是有标题/照片信息的。
当我们想要分析和挖掘此类信息网络的时候,节点文本信息/节点图片信息/信息网络结构信息这三种模态信息都是重要的。然而,目前的工作比如大语言模型、生成扩散模型、图神经网络主要都只针对这三类信息中的一类进行精细化处理,而忽略了三者的结合。
鉴于这个背景,美国 #伊利诺伊大学# 金博文博士和所在团队开展了这样一项研究:如何通过模型将节点文本信息/节点图片信息/信息网络结构信息这三种模态信息同步编码,来完成此类信息图上任务的问题。
戳链接查看详情: 网页链接