5步搞定私有模型部署，AI小帮手解锁本地模型，聊聊看法

在最新发布的版本中，迅速修复了一些已发现的问题，包括在特定情况下可能出现的Connection error，以及无法引用包含特殊符号的区域等。

新版本还加入了ollama本地模型的支持

使用方法上也很简单，依旧是填写3个参数

ApiKey：ollama ←固定值ModelName：ollama的模型名 ←你run什么模型就填什么ApiUrl：http://127.0.0.1:11434/v1/  ←没有自己改过的话也是固定值别名:自己取一个

下面带着大家一起快速在自己的电脑上部署一个deepseek蒸馏版模型

1.打开ollama官网下载对应系统的安装包

https://ollama.com/download

2.打开下载好的安装包，一路狂点下一步，等待安装成功。

3.安装成功后，我们右键开始菜单，选择终端管理员

4.在弹出的终端里，我们输入 ollama run deepseek-r1:7b ，等待模型下载并运行

5.出现下面界面表示模型已成功启动，你可以快乐的在本地使用deepseek蒸馏版了

p.s.此处演示选择了7b蒸馏版，大家可能需要根据自己的电脑配置选择适合参数大小的模型，不然可能会存在半天说几个字的情况。

6.在小帮手里配置本地ollama模型，下面配置中ApiUrl和ApiKey一般都为固定值，我们只需要修改自己实际的模型名称即可。

最后谈谈我对本地部署模型的一些看法。

首先我们要清楚的是除了671b的deepseek原版外，其他所有规格模型都是deepseek蒸馏版模型，上方演示的是7b，相差100倍。

蒸馏简单的来说就是，deepseek作为老师去指导学生模型，如何近似教师模型的预测结果。