吴恩达发布开源 Python 库，一个接口可调用多个大模型

AI前线 · 公众号 · AI · 2024-12-07 07:37

正文

作者 | 褚杏娟

近日，吴恩达宣布推出了新的开源 Python 库：aisuite。

“在构建应用程序时，我发现与多个提供商集成很麻烦。”吴恩达说道，“这（aisuite）使开发人员能够轻松使用来自多个厂商的大型语言模型。”

据介绍，aisuite 允许用户通过更改一个字符串来选择一个 “provider：model”，例如 openai：gpt-4o、anthropic：claude-3-5-sonnet-20241022、ollama：llama3.1：8b 等。

Aisuite 为开发人员提供了一个标准化接口，使其能够轻松地使用多个大型语言模型。它采用了类似于 OpenAI 的接口，允许用户轻松地与最流行的 LLM 进行交互并比较结果。作为一个 Python 客户端库的轻量级包装器，Aisuite 允许开发者在不改变代码的情况下，无缝交换和测试来自不同 LLM 提供商的响应。

目前，该库主要专注于聊天完成功能，吴恩达计划在不久的将来扩展其功能以覆盖更多用例。当前支持的 LLM 提供商包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama。为了确保最大的稳定性，Aisuite 通过 HTTP 端点或 SDK 调用这些提供商的服务。

吴恩达还给出了使用演示：

据悉，aisuite 遵循 MIT 许可协议，开发者可以自由使用、修改和分发代码，用于商业和非商业用途。

开源地址如下：

https ://github.com/andrewyng/aisuite

会议推荐

12 月 13 日至 14 日（下周五至周六），AICon 全球人工智能开发与应用大会将在北京盛大开幕！本次大会汇聚 70+ 位 AI 及技术领域的顶尖专家，深入探讨大模型与推理、AI Agent、多模态、具身智能等前沿话题。此外还有丰富的圆桌论坛、以及展区活动，带你深入探索大模型的最新实践与未来趋势。年度最后一次 AI 盛宴，让我们一起见证 AI 未来。