LM Studio 0.3.4竟然集成了Apple MLX ！！！#ai##ai创造营#
这意味这在 Apple M系列芯片上可以以超快的速度、100% 本地和离线方式运行设备上的 LLM！
包括：
> 在 M3 上以 ~250 tok/秒的速度运行 Llama 3.2 1B
> 支持总是以结构化 JSON 输出
> 通过代码或者Chat UI使用模型
> 同时运行多个模型
> 从 Hugging Face Video 下载任何模型。
Blog：lmstudio.ai/blog/lmstudio-v0.3.4
Apple的LMStudio MXL Engine还是开源的：github.com/lmstudio-ai/mlx-engine
ChatGPT
这意味这在 Apple M系列芯片上可以以超快的速度、100% 本地和离线方式运行设备上的 LLM！
包括：
> 在 M3 上以 ~250 tok/秒的速度运行 Llama 3.2 1B
> 支持总是以结构化 JSON 输出
> 通过代码或者Chat UI使用模型
> 同时运行多个模型
> 从 Hugging Face Video 下载任何模型。
Blog：lmstudio.ai/blog/lmstudio-v0.3.4
Apple的LMStudio MXL Engine还是开源的：github.com/lmstudio-ai/mlx-engine
ChatGPT
