专栏名称: 黄建同学
数码博主 超话主持人(ChatGPT超话) 头条文章作者 我的学习笔记,关注AI+新能源
目录
相关文章推荐
爱可可-爱生活  ·  【[63星]gradio-app/groov ... ·  2 天前  
爱可可-爱生活  ·  【[105星]grps_trtllm:比vL ... ·  2 天前  
网信湖北  ·  大爆发!全网一码难求!他来自华科大 ·  2 天前  
网信湖北  ·  大爆发!全网一码难求!他来自华科大 ·  2 天前  
爱可可-爱生活  ·  [CL]《SoftMatcha: A ... ·  3 天前  
51好读  ›  专栏  ›  黄建同学

LM Studio重磅发布Python和TypeScript的L-20250304092827

黄建同学  · 微博  · AI  · 2025-03-04 09:28

正文

2025-03-04 09:28

LM Studio重磅发布Python和TypeScript的LM Studio SDK!

这款SDK不仅赋予了开发者使用LM Studio强大功能的能力,还首次引入了面向代理的API——`.act()`调用。简单来说,你只需提供一个任务和工具,模型就能自主地进行多轮操作直至完成任务。

1. SDK功能亮点:
- 与大型语言模型(LLMs)交互
- 代理工具使用
- 结构化输出(支持Pydantic, zod, 或 JSON schema)
- 图像输入
- 推测性解码(适用于MLX和llama.cpp)
- 文本完成
- 嵌入式
- 低级配置(GPU, 上下文长度)
- 内存中的模型管理

所有API都设有合理的自动默认值,但你可以根据需求自定义一切。

2. MIT许可

3 .act() API使用:
在Python中,你可以直接传递常规函数;在TypeScript中,则提供简单的工具描述符。SDK负责调用工具并将输出反馈给模型。

🔗 Blog: lmstudio.ai/blog/introducing-lmstudio-sdk
🔗 Python SDK文档: lmstudio.ai/docs/python
🔗 TypeScript SDK文档: lmstudio.ai/docs/typescript
🔗 GitHub: github.com/lmstudio-ai/lmstudio-python

#ai创造营# #程序员# #deepseek#






请到「今天看啥」查看全文