专栏名称: 量子位
վ'ᴗ' ի 追踪AI行业和技术动态,这里更快一步!关注我们,回复“今天”,更多大新闻等你来发现
目录
相关文章推荐
黄建同学  ·  Move AI ... ·  昨天  
新智元  ·  Open-Sora ... ·  2 天前  
51好读  ›  专栏  ›  量子位

DeepSeek玩家能提前拿苹果新品!只要15万元,在家跑满血版R1

量子位  · 公众号  · AI  · 2025-03-13 11:28

正文

金磊 发自 凹非寺
量子位 | 公众号 QbitAI

号称地表最强的 M3 Ultra ,本地跑满血版 DeepSeek R1 ,效果到底如何?

其实,有些DeepSeek玩家们已经提前拿到手做过实测了。

例如这位Alex老哥就是其中之一:

他提前拿到了两台搭载M3 Ultra的Mac Studio,配置是这样的:

  • M3 Ultra(32 核中央处理器、80 核图形处理器和 32 核神经网络引擎)

  • 512G统一内存

  • 1TB固态硬盘

具体来说,Alex老哥用配备Thunderbolt 5互连技术(传输速率为 80Gbps)的EXO Labs设备,来运行完整的DeepSeek R1模型(671B、8-bit)。

然后效果是这样的:

嗯,跑通了!

Alex老哥表示,两台Mac Studio本地跑满血版DeepSeek R1,实际速度是 11 tokens/秒 ,理论上可以达到20 tokens/秒。

至于价格嘛,一台上述配置的Mac Studio是 74249元 ,两台就是 小15万元

或许很多小伙伴觉得这个价格有点略贵。

但在M3 Ultra之前啊,如果你想在本地使用显卡来推理V3或R1,那么就得起码需要6、7张A100……大约小100万元

也正因如此,也有不少网友认为搭载M3 Ultra的Mac Studio,堪称是 “性价比最高的大模型一体机”

值得注意的是,苹果这次似乎是主动给DeepSeek玩家们提前发货,有种让他们赶紧测一测的意味。

毕竟在发布之际,苹果就强调了可以在M3 Ultra版Mac Studio中跑超过6000亿参数的大模型。

掀起一波本地跑DeepSeek的风

其实在M3 Ultra版Mac Studio发布前后,已经有不少人做过类似的评测。

例如B站博主“虽然但是张黑黑”的测试结果是:

  • 15.78 tokens/秒:采用Ollama的GGUF格式

  • 19.17 tokens/秒:采用更适合苹果的MLX格式







请到「今天看啥」查看全文