专栏名称: GitHubStore
分享有意思的开源项目
目录
相关文章推荐
创业家  ·  小赛道,才有大机会 ·  13 小时前  
天津日报  ·  一教授助力茅台增产三到五成?最新回应→ ·  2 天前  
创乎  ·  创业成本:时间与知识的核心作用 ·  2 天前  
南宁晚报  ·  多名主播被抓! ·  3 天前  
南宁晚报  ·  多名主播被抓! ·  3 天前  
51好读  ›  专栏  ›  GitHubStore

farfalle:Perplexity克隆版AI搜索引擎

GitHubStore  · 公众号  ·  · 2024-05-26 09:20

正文

项目简介

支持运行本地大模型,llama3、gemma 和、mistral;也可以使用云模型,Groq/Llama3 、 OpenAI/gpt4-o等


技术栈

前端:Next.js

后端:FastAPI

搜索 API:Tavily

日志记录:Logfire

限流:Redis

组件:shadcn/ui


本地入门

先决条件

  • Docker

  • Ollama(如果运行本地模型)

    • 下载任何支持的模型:llama3、mistral、gemma

    • 启动ollama服务器 ollama serve


获取 API 密钥

  • Tavily

  • OpenAI(可选)

  • Groq 可选)


1. 克隆存储库

git clone [email protected]:rashadphz/farfalle.gitcd farfalle


2.添加环境变量

touch .env

必需的

TAVILY_API_KEY=...

可选的

# Cloud ModelsOPENAI_API_KEY=...GROQ_API_KEY=...


3. 运行容器

这需要 Docker Compose 版本 2.22.0 或更高版本。

docker-compose -f docker-compose.dev.yaml up -d

访问 http://localhost:3000 查看该应用程序。


有关自定义设置说明,请参阅 custom-setup-instructions.md

项目链接

https://github.com/rashadphz/farfalle







请到「今天看啥」查看全文