专栏名称: AI资本家
他们说关注这个号的人,都在偷偷用AI创意创作、搞钱搞流量、上班摸鱼、写论文、降本增效…… 所以,切记:千万别向同行、同事、同学、老板推荐!
目录
相关文章推荐
芋道源码  ·  被问懵了,加密后的数据如何进行模糊查询? ·  9 小时前  
芋道源码  ·  Minio + Docker ... ·  9 小时前  
芋道源码  ·  18.6k ... ·  昨天  
Java编程精选  ·  SpringBoot实现分布式验证码登录方案 ·  3 天前  
51好读  ›  专栏  ›  AI资本家

DeepSeek本地免费部署保姆级教程

AI资本家  · 公众号  ·  · 2025-02-10 21:00

正文

2025年开年DeepSeek的异常火爆,引起了全民关注,但是信息差无处不在,这样的先进的人工智能大模型,很快就变成网络搬运工们牟利的工具,像“DeepSeek本地部署教程”、“DeepSeek保姆级入门指南”等资料某鱼上交易火爆。

有的朋友电脑配置比较高,希望能将DeepSeek进行本地化部署,方便深入学习研究DeepSeek;也有电脑配置不那么高的朋友,听说最低四核CPU,8G内存,4G显存的中古电脑配置就能“玩票”,从此告别“服务器繁忙,请稍后再试”,而跃跃欲试。

这里我也准备为大家消除信息差,免费分享如何本地化部署DeepSeek的保姆级教程,让大家最大限度免费用上高效率生产力工具。

但在实操前,我想先给大家补补DeepSeek大模型的一些基础知识,让大家了解一下各版本DeepSeek的区别。

首先,我们口中的DeepSeek是人工智能基础大语言模型,有三大模型分支,一是“V3”,另一是“R1”,还有一个是大家不常见到的“R1-Lite”。这就相当于“快刀”与“重剑”的区别:

V3:1秒响应的“百科管家”,适合查资料、写文案、做计划,但别让它算微积分,它会假装思考然后胡说八道。

R1:3分钟深度推理的“学术大佬”,写代码、解数学题、分析财报时必开,曾有程序员靠它找出祖传bug,绩效怒涨30%。

至于R1-Lite,其实只能算阉割版的R1,轻量级推理、快速原型验证,功能尚未完全释放,仅限网页交互。

由此可见,V3并不稀奇,像豆包AI、文小言、智谱清言都有类似的功能,真正让大家感兴趣的,还是R1模型。但大家可能经常听说什么R1-7B、R1-32B……还有什么”满血版”,这里就给大家简单介绍一下。

DeepSeek背后用了多项技术,其中有一项是被广泛应用在深度学习大模型训练中的蒸馏技术,大模型蒸馏技术是一种将大型模型(教师模型)的知识迁移到更小、高效模型(学生模型)中的方法,通过微调训练使小模型在压缩规模的同时保持高性能,从而提升推理速度、降低资源消耗。DeepSeek-R1-671B就是教师模型,也就是常说的满血版,而70B、32B、14B、8B、7B、1.5B这些都是通过若干次蒸馏后产生的徒子徒孙,编号数字越大,能力越强,但对算力资源的要求也就越高。像最低版的1.5B,本地化布置后你会觉得它很傻,而你如果能布置32B和70B,就比较接近官网的水平了,一般至少要布置14B的,才会有比较好的体验。

1.5B:CPU最低4核,内存8GB+,硬盘3GB+存储空间,显卡非必需,若GPU加速可选4GB+显存,适合低资源设备部署等场景。

7B:CPU 8核以上,内存16GB+,硬盘8GB+,显卡推荐8GB+显存,可用于本地开发测试等场景。

8B:硬件需求与7B相近略高,适合需更高精度的轻量级任务。

14B:CPU 12核以上,内存32GB+,硬盘15GB+,显卡16GB+显存,可用于企业级复杂任务等场景。

32B:CPU 16核以上,内存64GB+,硬盘30GB+,显卡24GB+显存,适合高精度专业领域任务等场景。

70B:CPU 32核以上,内存128GB+,硬盘70GB+,显卡需多卡并行,适合科研机构等进行高复杂度生成任务等场景。

而像满血版的671B对算力要求更高,需要建设一个算力中心才能带动,虽然DeepSeek通过算法优化,对算力的依赖远远低于GPT、Claude等,但也不是普通中小企业负担得起的。

话入正题,下面就给大家介绍如何在本地电脑上部署DeepSeek,让大家即使在无网络的情况下,也能使用这一先进生产力工具。

一、安装Ollama

Ollama 是一个轻量级的本地AI模型运行框架,可在本地运行各种开源大语言模型(如Llama、Mistral等)

下载网址:ollama.com

选择电脑操作系统对应的版本

下载 安装之后,Ollama已经运行了,它是CMD命令工具,我们可以在命令行输入ollama来验证,是否安装成功

安装之后,按win+r,就会弹出这个窗口:

会出现这个界面

回到ollama的官网,选择模型

我的显卡是4060ti 16G,对应选择14B模型,大小有9G

之后就是看着下载进度,进入等待







请到「今天看啥」查看全文