如果想上DEEPSEEK用Mac mini m4可还行?
作者: a1a 时间: 3 天前
PC讲穿了就是换显卡、但m4可比显卡划算多了。想问一下有没有已经成功的版友,如果有的话能否分享一下心得体会好让我学习一下。
作者: 风林火山 时间: 3 天前
macmini m4 本地部署deepseek
作者: robinxbb 时间: 3 天前
别试了,想要本地部署想要获得理想的效果,得运行70b模型。想要流畅运行得上 64g 内存,m4pro,2万+。我的m4+24g 内存,运行 32b 都卡的不行
作者: njsphinx 时间: 3 天前
蛮好的,我16G内存的M1 MAC MINI跑14B速度都能接受,挺好用,新款16G的M4 MACMINI就更快了。
作者: dadaie100 时间: 3 天前
好像6台 64G的mac mini 可以跑671B
作者: OstrichFly 时间: 前天 03:28
dadaie100 发表于 2025-2-20 23:40
好像6台 64G的mac mini 可以跑671B
671B float16参数需要1342GB显存/内存,6台64G的最多只能跑671B的量化版本。
作者: yaoyuxiang 时间: 前天 09:37
这个性价比蛮高的
PC讲穿了就是换显卡、但m4可比显卡划算多了。想问一下有没有已经成功的版友,如果有的话能否分享一下心得体会好让我学习一下。
作者: 风林火山 时间: 3 天前
macmini m4 本地部署deepseek
作者: robinxbb 时间: 3 天前
别试了,想要本地部署想要获得理想的效果,得运行70b模型。想要流畅运行得上 64g 内存,m4pro,2万+。我的m4+24g 内存,运行 32b 都卡的不行
作者: njsphinx 时间: 3 天前
蛮好的,我16G内存的M1 MAC MINI跑14B速度都能接受,挺好用,新款16G的M4 MACMINI就更快了。
作者: dadaie100 时间: 3 天前
好像6台 64G的mac mini 可以跑671B
作者: OstrichFly 时间: 前天 03:28
dadaie100 发表于 2025-2-20 23:40
好像6台 64G的mac mini 可以跑671B
671B float16参数需要1342GB显存/内存,6台64G的最多只能跑671B的量化版本。
作者: yaoyuxiang 时间: 前天 09:37
这个性价比蛮高的
本文转载于9090社区,帖子链接:https://www.kk9090.top/thread-565566-1-1.html