LM Studio重磅发布Python和TypeScript的LM Studio SDK!
这款SDK不仅赋予了开发者使用LM Studio强大功能的能力,还首次引入了面向代理的API——`.act()`调用。简单来说,你只需提供一个任务和工具,模型就能自主地进行多轮操作直至完成任务。
1. SDK功能亮点:
- 与大型语言模型(LLMs)交互
- 代理工具使用
- 结构化输出(支持Pydantic, zod, 或 JSON schema)
- 图像输入
- 推测性解码(适用于MLX和llama.cpp)
- 文本完成
- 嵌入式
- 低级配置(GPU, 上下文长度)
- 内存中的模型管理
所有API都设有合理的自动默认值,但你可以根据需求自定义一切。
2. MIT许可
3 .act() API使用:
在Python中,你可以直接传递常规函数;在TypeScript中,则提供简单的工具描述符。SDK负责调用工具并将输出反馈给模型。
🔗 Blog: lmstudio.ai/blog/introducing-lmstudio-sdk
🔗 Python SDK文档: lmstudio.ai/docs/python
🔗 TypeScript SDK文档: lmstudio.ai/docs/typescript
🔗 GitHub: github.com/lmstudio-ai/lmstudio-python
#ai创造营# #程序员# #deepseek#
这款SDK不仅赋予了开发者使用LM Studio强大功能的能力,还首次引入了面向代理的API——`.act()`调用。简单来说,你只需提供一个任务和工具,模型就能自主地进行多轮操作直至完成任务。
1. SDK功能亮点:
- 与大型语言模型(LLMs)交互
- 代理工具使用
- 结构化输出(支持Pydantic, zod, 或 JSON schema)
- 图像输入
- 推测性解码(适用于MLX和llama.cpp)
- 文本完成
- 嵌入式
- 低级配置(GPU, 上下文长度)
- 内存中的模型管理
所有API都设有合理的自动默认值,但你可以根据需求自定义一切。
2. MIT许可
3 .act() API使用:
在Python中,你可以直接传递常规函数;在TypeScript中,则提供简单的工具描述符。SDK负责调用工具并将输出反馈给模型。
🔗 Blog: lmstudio.ai/blog/introducing-lmstudio-sdk
🔗 Python SDK文档: lmstudio.ai/docs/python
🔗 TypeScript SDK文档: lmstudio.ai/docs/typescript
🔗 GitHub: github.com/lmstudio-ai/lmstudio-python
#ai创造营# #程序员# #deepseek#