专栏名称: 黄建同学
数码博主 超话主持人(ChatGPT超话) 头条文章作者 我的学习笔记,关注AI+新能源
目录
相关文章推荐
宝玉xp  ·  Google 的 Gemini 2.0 ... ·  昨天  
爱可可-爱生活  ·  【[413星]llmchat:最直观的统一A ... ·  昨天  
机器之心  ·  AI「视觉图灵」时代来了!字节OmniHum ... ·  昨天  
爱可可-爱生活  ·  关键或许不在于对抗AI的“幻觉”,而是要重塑 ... ·  昨天  
爱可可-爱生活  ·  【[70星]Extract-chat:通过聊 ... ·  4 天前  
51好读  ›  专栏  ›  黄建同学

开源且免费的开发技术栈:- LLM:Llama 3 和 Qwen-20241223203123

黄建同学  · 微博  · AI  · 2024-12-23 20:31

正文

2024-12-23 20:31

开源且免费的开发技术栈:
- LLM:Llama 3 和 Qwen 2.5 等开源模型与 Claude 和 GPT 在许多基准测试中的表现相匹配,并具有更多的数据隐私保障。

- 嵌入Embedding:JinaAI、BAAI 和 Nomic 等现代嵌入模型可帮助开发人员实现精准搜索和 RAG,而无需按Token付费或依赖第三方 API。

- 模型访问和部署: Ollama使开发人员只需一个命令即可访问和部署数十种最先进的开源模型。

- 数据和检索:PostgreSQL,得益于 pgvector 和 pgai 等扩展,该数据库现在可以比专门的向量数据库更好地处理 AI 请求。

- 后端:FastAPI——构建可实际扩展的生产级 AI 后端的最快方法。

- 前端:NextJS——使用开箱即用处理流、缓存和实时更新的框架构建漂亮的 AI UI。

#ai创造营# #程序员#






请到「今天看啥」查看全文