专栏名称: 前端早读课
我们关注前端,产品体验设计,更关注前端同行的成长。 每天清晨五点早读,四万+同行相伴成长。
目录
相关文章推荐
前端大全  ·  折腾我2周的分页打印和下载pdf实现 ·  昨天  
前端早读课  ·  【第3417期】LangChain ... ·  昨天  
前端早读课  ·  【第3416期】JavaScript的??= ... ·  2 天前  
前端早读课  ·  【第3414期】提升ServiceWorke ... ·  5 天前  
前端早读课  ·  【第3413期】2024年CSS状态调查报告 ·  1 周前  
51好读  ›  专栏  ›  前端早读课

【第3417期】LangChain RAG&Agent实践:活动组件AI助手的实现

前端早读课  · 公众号  · 前端  · 2024-11-15 08:00

正文

前言

介绍了如何利用 LangChain 开发 RAG(Retrieval-Augmented Generation)和 Agent 应用,并通过活动组件 AI 助手的实现案例,分析了 AIGC 在活动组件业务中的应用。今日前端早读课文章由 @AlwinXie 分享,公号:三七互娱技术团队授权。

正文从这开始~~

概述

本文主要讲述采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例。

背景

活动组件 AI 助手落地共经历了三个阶段:

  • 快速落地:采用 Dify 平台,验证 AI 与业务结合的想法,快速实现第一版;

  • 优化性能:采用 LangChain 开发具备 RAG 能力的第二版;

  • 丰富功能:开发具备 Agent 能力的第三版;

在上一篇【第3411期】AIGC在活动业务中的探索与应用中,介绍了使用 Dify 平台快速落地活动组件 AI 助手的第一版,验证了 AI 与业务结合的可行性。接着我使用 LangChain 开发了第二版,简化第一版中 Dify RAG 的流程,提升推荐组件的性能。有了组件推荐能力后,我们继续丰富 AI 助手的功能,又有了新的想法:能否根据需求,查询历史活动,快速复用同类型组件?为此我们开发了具备 Agent 能力的第三版,实现根据用户需求,自主规划任务和调用工具,查询所需的活动和组件数据,并实现快速复用历史活动组件的功能。

活动组件 AI 助手效果展示

RAG 实践效果

根据用户需求,推荐合适的活动组件,提供贴合需求的参考方案,降低组件选择成本

Agent 实践效果

实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果

查询符合需求的活动信息:最近一个月最火的 3 个 “x 游戏” 活动

查询使用过组件的活动列表:最近有哪些活动在使用这个组件 xxxx

由于篇幅问题,仅展示部分功能。

活动组件 AI 助手落地实现

LangChain RAG 实践 :LCEL + 云原生数据仓库

LangChain Expression Language(LCEL)是一种声明式方法,可以轻松地将链组合在一起。LCEL 从设计之初就支持将原型投入生产,从最简单的 “prompt + LLM” 链到最复杂的链(我们已经看到有人在生产中成功运行了包含 100 多个步骤的 LCEL 链),无需修改代码。

再利用云原生数据仓库的向量检索能力,实现 RAG 检索服务。

RAG 核心流程:LLM 润色用户需求 -> 得到结构化数据进行知识库召回 -> 得到知识上下文,结合用户需求交给 LLM -> 得到推荐组件

1、数据转换细节:

1.1、自然语言 -> 结构化数据;

1.2、符合知识库数据结构,并具备可筛选的分类信息;

2、匹配知识库的细节:

2.1、知识库分类匹配;

2.2、召回 relevant_size 个 top k 结果;

2.3、召回数据根据 score 做二次筛选;

3、最终得到结构化业务数据:

4、业务系统解析结构化数据,向用户展现内容

LangChain Agent 实践

实现根据用户需求,自主规划任务和调用工具,查询所需的活动和组件数据。

核心流程:实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果。

手撕 ReAct Agent:Agent run 核心流程:

通过以上流程实现了一个业务专属的 ReAct Agent。(LangChain 中也有自带的 Agent 能力,但是过于通用且简单,无法满足实际的复杂业务需求,因此我自己手撕了一个)

下面对比一下不同模型在实现 Agent 时的表现,理解能力较强的大模型比较适合实现复杂的 Agent。

打印了 ReAct Agent 规划过程:

[大模型 1] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

第一轮思考:

第二轮思考:

大模型 1 总结:1. 耗时较长(50-70s)2. 准确性不够高,理解能力稍差(查询 pv 最少的 x 个活动,理解为按 pv 降序,应该是按 pv 升序)

[大模型 2] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

大模型 2 总结:1. 性能高(10-20s)2. 准确性高,理解能力强;

对比不同大模型的规划过程可以看出 [大模型 2] 做了 tool_call 方面的微调,对调用工具的需求比较敏感,比较适合实现复杂 Agent 的需求。

最后把 RAG 和 Agent 的能力通过前置 AI 路由统一起来:实现 AI 服务统一入口。

总结

本文讲述了采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例:活动组件 AI 助手。

  • 在应用案例分析中,展示了活动组件智能 AI 助手的推荐组件能力及查询历史活动和组件数据的能力。

  • 在落地过程中,分别讲述了 RAG 和 Agent 的核心实现思路。

  • 最后,对比了不同大模型在实际 Agent 规划中的效果,以及活动组件 AI 助手的整体流程架构图。

关于本文
作者:@AlwinXie
原文:https://mp.weixin.qq.com/s/R_AdfwAO4P-Aaptp5xU4-Q

这期前端早读课
对你有帮助,帮” 
 “一下,
期待下一期,帮”
 在看” 一下 。