专栏名称: 小猿猴GISer
GIS遥感交流学习
目录
相关文章推荐
笔吧评测室  ·  英伟达 RTX 50 系列 GPU 放弃对 ... ·  16 小时前  
江苏教育发布  ·  解码《纲要》⑨ | ... ·  2 天前  
江苏教育发布  ·  解码《纲要》⑨ | ... ·  2 天前  
笔吧评测室  ·  聊一个“知名老品牌”推出的新型笔记本 ·  2 天前  
GBA Community  ·  DeepSeek: Your ... ·  3 天前  
GBA Community  ·  DeepSeek: Your ... ·  3 天前  
51好读  ›  专栏  ›  小猿猴GISer

DeepSeek本地部署,断网可用~打造你的个人小助手~

小猿猴GISer  · 公众号  ·  · 2025-02-21 20:15

正文

网页版多次“服务器繁忙,请稍后再试”
让我痛心
只不过是问ds我什么时候能赚100w就这么忙吗,没爱了没爱了
来吧,部署我的个人小助手,分三步走:
一、下载“羊驼”
免费开源本地大语言模型运行平台Ollama(饿了么?)
网址:https://ollama.com/
看到“免费开源”四个字,本白嫖党欣喜若狂,该平台作用是帮你把DeepSeek下载到你的电脑并运行(也有其他平台,至于为什么选他,因为他是羊驼啊!会吐口水的羊驼啊!多炫酷~)
下载后傻瓜式安装,下一步下一步下一步......
下载完成后“ 以管理员身份运行 ”cmd(命令提示符),输入ollama并回车,出现以下界面则表示安装成功
再回到“羊驼”主页,点击DeepSeek-R1进入模型下载主页
目前提供7个量级的开源模型,b表示billion十亿,表示模型的参数量,1.5b是十五亿参数,7b就是10亿参数,参数量越大意味着你得到的回答质量就越高,但参数量越大所需要的GPU资源就越高,在这里提示下671b也非网页版纯血模型,个人想部署671b有些许难度(氪金大佬除外)
如果你的电脑有独立显卡,就选择1.5b版本(此版本傻乎乎),如果有独显,显存是4g或8g左右可选择7b、8b版本,如果非要选择14b及以上,你就会跟我一样
卡卡卡卡到厌倦~~~~
二、下载对应模型
只需要把对应ollama命令复制到cmd终端回车(以管理员身份运行啊!!!)等待模型下载完成,出现界面中“success”表示DeepSeek本地版就部署成功了
但是,终端对话一点也不高大上,咱还需要个类似官网对话样式的第三方工具
三、大模型平台AI客户端
Cherry Studio~为什么选他,单纯是因为我喜欢吃恩特儿~
网址:https://cherry-ai.com/
他家下载也怪接地气的,网盘下载
下载完了之后再次傻瓜式安装
安装完成之后点击左下角设置界面
在模型服务中选择羊驼,右上角开关打开,点击右下角“管理”按钮添加下载好的DeepSeek模型
加选下载好的模型,再回到首页,还差一步即可对话~
默认对话是使用了硅基流动提供的deepseek-ai/DeepSeek-V3,使用这个模型是需要你到硅基流动申请API密钥的,咱要切换成咱本地模型
这时候咱就可以对话了,比如:
可随时下载其他量级模型可在对话框上随意切换版本~
他还可以分析pdf文档等其他功能,各位小伙伴们快去玩耍吧~
----------------------------------------------

可能会出现以下问题:

问题一 :Cherry Studio出现API密钥提示

模型下载运行成功后,使用Cherry Studio开始对话的时候,遇到了身份验证失败,请检查 API 密钥是否正确的问题,如下图所示






请到「今天看啥」查看全文