腾讯玄武实验室居然搞了一个纯cpu推理deepseekr1满q8量化模型的配置

Magicflu小小汪 2025-03-24 13:06:33

腾讯玄武实验室居然搞了一个纯cpu推理deepseek r1满q8量化模型的配置。峰值生成速度 7.17 tokens/s,即每秒输出约 10 个汉字,且整机功耗和噪音和家用台式机类似。MZ33-AR1(5950 元)EPYC 9115(5400 元)或者 EPYC 9135(7900 元)DDR5 5600MHz 64GB x 12(22800 元)1TB SSD(338 元)850W 电源(349 元)CPU 散热器(294 元)内存散热器(368 元)机箱(187 元)总计:35686 元(选择 EPYC 9135 则为 38186 元)你怎么看?

0 阅读:0

Magicflu小小汪

简介:强大的无代码零代码数字中台魔方网表的学习资料汇总