随着大模型技术的迅速发展,推荐系统正经历着一场革命性的变革。传统的推荐系统主要基于用户和物品的历史行为数据进行预测,
大模型技术的出现,为推荐系统带来了更强的泛化能力和更高的效率
,
解决了传统推荐系统中的一些难题,如用户和物品数量的巨大规模、不可观测因素对推荐的影响等。
我们邀请到
985高校助理教授,30+篇顶会顶刊作者Mike老师
,为我们带来——
当狂飙的LLM遇上推荐系统
,
通过带读3篇LLM+推荐系统经典论文
,带大家深入了解LLM+推荐系统的强大之处。
(文末福利)
200+大模型论文&复现代码&ppt原稿
-985高校助理教授。国内top3高校计算机科学博士学位
-在国际顶级会议及期刊ACL、EMNLPSIGIR、WWW、KDD、AAAI、HCAI等发表论文30余篇,并担任国际顶级会议ACL、EMNLP、SIGIR、WWW、KDDAAA1、IICAI等审稿人
-研究方向:自然语言处理NLP方向,预训练大规模语言模型、信息检索、对话系统、对话问答系统、机器学习、推荐系统、文本摘要、法律人工智能、医疗文本挖掘、计算广告
1.ls chatGPT a Good Recommender? A Preliminarystudy
论文探讨了ChatGPT等大型语言模型在推荐系统中的应用潜力。通过初步研究,发现大型语言模型可以有效地用于推荐系统,为个性化推荐提供有价值的参考信息。
2. Large Language Models are Zero-Shot Rankers forRecommender Systems
论文提出了大型语言模型在推荐系统中的应用新思路。它表明大型语言模型具有“零样本学习能力”,即能够在没有示例的情况下学习新任务,并用于对推荐结果进行排序。
3. TALLRec: An Effective and Efficient Tuning Frameworkto Align Large Language Model with Recommendation
论文介绍了一种有效的训练框架TALLRec,用于将大型语言模型与推荐系统相结合。通过该框架,可以有效地训练大型语言模型以适应推荐任务,从而提高推荐效果和效率。
(文末福利)
推荐系统是一种信息过滤系统,通过分析用户的交互行为、兴趣和偏好,为用户提供符合其个性化兴趣偏好的推荐服务
。推荐系统从形式化描述上来说是一个拟合用户对内容满意度的函数,本质上是要解决用户、环境和内容的匹配问题。传统推荐系统只能利用数据集内的知识,存在缺乏语义信息和深度推理能力的问题。
大模型能够引入外部世界知识,具有跨域推荐和泛化能力的优势,
为了弥补传统推荐系统的缺陷,可以将大模型引入传统的推荐流程中可以强强联合提升推荐性能
、优化用户体验。接下来,本文将探讨大模型在推荐系统中的应用,重点关注特征工程、特征编码、打分排序以及流程控制这四个关键阶段。
最近,一项新的研究提出了一种结合了
大语言模型(Large Language Models, LLMs)和推荐系统的方法
,这一方法通过构建一个推理知识图谱(Inferential Knowledge Graph),使得
推荐系统能够更好地理解和预测用户的购买意图。
这项研究的核心在于一个名为
LLM-KERec(Large Language Model based Complementary Knowledge Enhanced Recommendation System)的系统,
它通过实体提取器从商品和用户信息中提取统一的概念术语,并生成基于实体流行度和特定策略的实体对。大语言模型用于确定每对实体间的互补关系,并构建互补知识图谱。此外,新的互补回忆模块和实体-实体-商品(Entity-Entity-Item, E-E-I)权重决策模型通过使用真实的互补曝光-点击样本来细化排名模型的评分。
传统推荐模块:
在传统推荐架构中,当用户打开应用程序时,系统会自动发送请求到服务器。服务器触发召回模块,返回大量候选商品,然后通过粗排模型进行筛选,最终通过精排模型和重排模型决定商品的展示顺序。这些模型通常使用历史曝光和点击日志进行训练,因此,现有推荐模型往往倾向于推荐基于用户正面反馈的相似商品。
基于LLM的补充知识增强:
LLM-KERec系统创建了一个统一的实体(类别)系统,用于用户账单行为和所有商品之间的连接。每个商品或账单都被分类到一个独特的实体中,这些实体作为各种内容之间的桥梁。利用世界知识和常识知识,系统采用大语言模型来确定两个实体之间是否存在补充关系,并构建补充知识图谱。然后,使用真实的曝光和点击反馈训练实体-实体-商品(E-E-I)权重决策模型,将知识注入排名模型中,以提供个性化的推荐。
对于还没有发过第一篇论文,还不能通过其它方面来证明自己天赋异禀的科研新手
,学会如何写论文、发顶会的重要性不言而喻。
发顶会到底难不难?近年来各大顶会的论文接收数量逐年攀升,身边的朋友同学也常有听闻成功发顶会,总让人觉得发顶会这事儿好像没那么难!
但是到了真正实操阶段才发现,并不那么简单
,可能照着自己的想法做下去并不能写出一篇好的论文、甚至不能写出论文。掌握方法,有人指点和引导很重要!
还在为创新点而头秃的CSer,还在愁如何写出一篇好论文的科研党,一定都需要来自顶会论文作者、顶会审稿人的经验传授和指点。
很可能你卡了很久的某个点,在和学术前辈们聊完之后就能轻松解决。