专栏名称: GitHubStore
分享有意思的开源项目
目录
相关文章推荐
新北方  ·  草莓价格“惊喜”啦!最低每斤“个位数” ·  10 小时前  
新北方  ·  临时封闭!沈阳故宫发布重要通知 ·  10 小时前  
新北方  ·  刚刚,江苏泰州兴化市发生地震 ·  3 天前  
51好读  ›  专栏  ›  GitHubStore

微软推出InteRecAgent:基于大模型增强的下一代推荐系统

GitHubStore  · 公众号  ·  · 2024-04-24 07:42

正文

项目简介

微软亚研院最新研究:基于大模型增强的下一代推荐系统!系统介绍 LLM + Rec 研究,代码已开源,目前 94 Star


1. 开发了基于对话的推荐 Agent - InteRecAgent

2. 训练了面向推荐的 Embedding 和 GenAI 模型

3. 提供了知识插件、可解释性和性能评估能力


大型语言模型(LLMs)为开发尖端推荐系统提供了巨大的潜力,特别是在增强交互性、可解释性和可控性方面。这些都是历来构成挑战的方面。然而,由于缺乏特定的领域知识,LLM将通用用于推荐目的的直接应用是不可行的。

RecAI项目旨在通过研究各种策略来弥合这一差距,以集成LLMs到推荐系统中,人们通常将这一概念称为LLM4Rec。我们的目标是通过整体观点和方法论来反映LLM4Rec的现实需求。

我们相信,通过采用整体视角,我们可以将 LLM4Rec 的大部分实际需求整合到 RecAI 项目中探索的一种或多种技术中。这些技术包括但不限于推荐器 AI 代理、通过个性化提示注入知识、微调语言模型作为推荐器、评估和LLMs模型解释器。最终目标是创建一个更复杂、交互式和以用户为中心的推荐系统。

项目列表


推荐器 AI 代理

LLMs提供自然的交互并智能地响应人类指令,但缺乏特定领域的专业知识。相比之下,传统的推荐系统在域内数据训练方面表现出色,但仅限于结构化数据,缺乏交互性。InteRecAgent 引入了一个结合了两者优势的 AI 代理:它采用大脑LLM和传统推荐模型作为工具。因此,矩阵分解等传统模型可以转换为对话式、交互式和可解释的推荐系统。
选择性知识插件

我们如何在不微调模型的情况下增强LLM特定领域的能力?那么提示就是关键。在这项工作中,我们引入了一种LLMs通过选择性知识进行增强的方法,以便可以通过提示注入大规模的、不断发展的和特定领域的数据模式。
嵌入 RecLM

密集检索是一系列场景中的关键组件,包括推荐系统和检索增强生成 (RAG)。虽然生成语言模型(如 GPT)专为顺序令牌生成而设计,但它们并未针对面向检索的嵌入进行优化。这就是我们的项目 RecLM-emb 发挥作用的地方。RecLM-emb 与文本嵌入模型(如 text-embedding-ada-002)保持一致,但它专门针对项目检索进行了优化。目标是嵌入用于项目检索的所有内容。目前仅支持文本模式,例如搜索查询、项目描述和用户说明。
生成式 RecLM

需要注意的是,不同域的数据模式差异很大,这意味着通用LLM型可能无法在特定域内提供优化的性能。为了适应特定的领域数据模式,以领域项目分类为基础,并增强指令跟踪能力,本项目讨论了为推荐者微调生成语言模型的过程,称为 RecLM-gen。技术包括监督微调 (SFT) 和强化学习 (RL)。这种方法的潜在应用包括排名器、对话推荐器和用户模拟器
模型解释器

基于深度学习的推荐系统因其在有效性和效率方面的优势而广泛应用于各种在线服务中。然而,这些模型通常缺乏可解释性,使它们对用户和开发人员来说都不太可靠和透明。在这项工作中,我们提出了一种新的推荐系统模型解释方法,称为 RecExplainer,通过用作LLMs代理模型并学习模仿和理解目标推荐模型。
RecLM 评估器

评估对于评估模型的真实能力和确定需要进一步改进的薄弱环节至关重要。在以类似人类的方式使用语言模型作为推荐器的时代,评估方法已经明显偏离了传统风格。该项目旨在为基于LM的推荐系统的评估提供全面的服务。无论是提供经过训练的 LM 还是 API(例如 Azure OpenAI API),它都会从各个角度评估模型的性能,包括检索、排名、解释功能和常规 AI 能力。




项目链接







请到「今天看啥」查看全文