专栏名称: 机器学习算法与Python实战
长期跟踪关注统计学、数据挖掘、机器学习算法、深度学习、人工智能技术与行业发展动态,分享Python、机器学习等技术文章。回复机器学习有惊喜资料。
目录
相关文章推荐
丁香妈妈  ·  孩子身高达标吗?多高算正常?2025 ... ·  2 天前  
科学家庭育儿  ·  第一批买学习机的妈妈,已经后悔了 ·  昨天  
科学家庭育儿  ·  DeepSeek大火!海淀牛校现在“卷”成这 ... ·  2 天前  
51好读  ›  专栏  ›  机器学习算法与Python实战

Chat RAG-基于检索增强生成(RAG)的交互式编程助手,可本地部署

机器学习算法与Python实战  · 公众号  ·  · 2024-08-30 17:07

正文

Chat RAG: 交互式编程助手

Chat RAG 是一个基于检索增强生成(RAG)技术的交互式编程助手,它提供了一个用户友好的 Gradio 界面,允许用户与各种语言模型进行交互,以获得编程问题的解答。该项目结合了先进的自然语言处理技术和灵活的用户界面,为开发者提供了一个强大的工具来解决编程难题。

项目地址: https://github.com/JakeFurtaw/Chat-RAG

unset unset 主要特性 unset unset

  1. 多种语言模型支持 :用户可以选择包括 Codestral、Mistral-Nemo、LLaMA3.1、DeepSeek Coder v2、Gemma2 和 CodeGemma 在内的多个模型。

  2. RAG 技术支持 :利用上传的文档提供上下文感知的回答。

  3. 交互式聊天界面 :简单易用的聊天界面,方便用户提出编程问题。

  4. 文件上传功能 :支持上传额外的上下文文件。

  5. 模型切换 :可以在不同的语言模型之间无缝切换。

  6. 重置聊天引擎 :清除聊天历史和内存,重新开始对话。

  7. 删除数据库 :为了隐私和重置目的,可以轻松删除所有存储的数据。

  8. 增强的内存管理 :为不同模型动态管理聊天内存。

  9. 精细的聊天提示 :上下文提示引导 AI 生成更准确和有用的回应。

unset unset 使用方法 unset unset

  1. 设置环境文件 (.env):

GRADIO_TEMP_DIR="YourPathTo/Chat-RAG/data"

GRADIO_WATCH_DIRS="YourPathTo/Chat-RAG"

HUGGINGFACE_HUB_TOKEN="YOUR HF TOKEN HERE"

  1. 运行应用程序:

gradio chatrag.py

  1. 应用程序将自动在浏览器中打开新标签页并启动。

  2. (可选)上传相关文件以提供额外上下文。

  3. 从下拉菜单中选择语言模型。

  4. 在文本框中输入您的编程问题并按回车。

  5. 模型将在聊天窗口中流式返回对您查询的回应。

unset unset 项目结构 unset unset

  • chatrag.py : 主应用程序入口点和 Gradio 设置

  • chat.py : 核心聊天功能,包括文档加载和聊天引擎设置

  • gr_utils.py : Gradio 工具函数

  • model_utils.py : 管理模型选择、内存和用户输入处理

  • utils.py : 用于嵌入、LLM 设置和聊天引擎配置的实用函数

unset unset 界面展示 unset unset

应用程序初始状态

Start State of the App

下拉菜单操作

Dropdown Menu

Llama 3.1 查询示例

Llama Query Example

RAG 查询示例







请到「今天看啥」查看全文