苹果M3Ultra512G内存的MacStudio目前已是地表性价比最高的能跑deepseekR1满血版的硬件了

Magicflu小小汪 2025-03-27 14:07:53

售价74249人民币的苹果 M3 Ultra 512G内存的Mac Studio目前已是地表性价比最高的能跑deepseek R1满血版的硬件了。测试结果显示,在运行DeepSeek R1 Q4量化版模型时,8张A100显卡的性能为16.41 Tokens/s,而满血版M3 Ultra在GGUF格式下达到15.78 Tokens/s,切换到能发挥统一内存优势的MLX格式后,速度提升至19.17 Tokens/s,超越8张A100显卡,此外M3 Ultra在运行DeepSeek V3 6710亿参数模型时,速度也达到了19.66 Tokens/s。更夸张的是运行deepseek r1时的功耗才200w,要知道一张A100的峰值功耗可就是能达到400w的。

0 阅读:0

Magicflu小小汪

简介:强大的无代码零代码数字中台魔方网表的学习资料汇总