项目简介
灵活强大的框架,用于管理多个AI智能体和处理复杂对话,支持智能意图分类、双语言、灵活的智能体响应和上下文管理
特点
-
🧠
智能意图分类
——根据上下文和内容动态地将查询路由到最合适的代理。
-
🔤
双语言支持
——完全用
Python
和
TypeScript
实现。
-
🌊
灵活的代理响应
——支持来自不同代理的流式和非流式响应。
-
📚
上下文管理
——维护和利用多个代理之间的对话上下文以实现连贯的交互。
-
🔧
可扩展架构
- 轻松集成新代理或自定义现有代理以满足您的特定需求。
-
🌐
通用部署
— 随处运行 - 从 AWS Lambda 到您的本地环境或任何云平台。
-
📦
预构建代理和分类器
- 提供各种即用型代理和多个分类器实现。
什么是多代理协调器❓
多代理协调器是一个灵活的框架,用于管理多个人工智能代理和处理复杂的对话。它智能地路由查询并维护交互中的上下文。
该系统提供了用于快速部署的预构建组件,同时还允许轻松集成自定义代理和对话消息存储解决方案。
这种适应性使其适用于从简单的聊天机器人到复杂的人工智能系统的广泛应用,可满足不同的需求并有效扩展。
🏗️高层架构流程图
-
该过程从用户输入开始,由分类器进行分析。
-
分类器利用代理的特征和代理的对话历史记录来选择最适合任务的代理。
-
一旦选择了代理,它就会处理用户输入。
-
然后,编排器保存对话,更新代理的对话历史记录,然后将响应传递回用户。
💬 演示应用程序
为了快速了解多代理协调器,我们提供了一个包含一些基本代理的演示应用程序。该交互式演示通过用户友好的界面展示了编排器的功能。要了解有关设置和运行演示应用程序的更多信息,请参阅我们的演示应用程序部分。
在下面的屏幕录制中,我们演示了演示应用程序的扩展版本,它使用 6 个专门代理:
-
旅行社
:由 Amazon Lex 机器人提供支持
-
Weather Agent
:利用 Bedrock LLM Agent 和查询 open-meteo API 的工具
-
餐厅代理
:作为 Amazon Bedrock 代理实施
-
数学代理
:利用 Bedrock LLM代理和两个工具来执行数学运算
-
技术代理
:基岩LLM代理,旨在回答有关技术主题的问题
-
健康代理
:基岩LLM代理专注于解决与健康相关的查询
观看系统在不同主题之间无缝切换上下文,从预订航班到查看天气、解决数学问题以及提供健康信息。请注意如何为每个查询选择适当的代理,即使有简短的后续输入也能保持一致性。
该演示强调了系统处理复杂的多轮对话的能力,同时保留上下文并利用跨不同领域的专业代理。
要快速了解多代理协调器,请查看我们的演示应用程序。文档和
examples
夹中都提供了其他代码示例。
🎯 示例和快速入门
通过我们的各种示例获得多代理协调器的实践经验: