3000美元的AI超级计算机你会买吗

老黄的Project Digits昨天发布后评价基本都是“真香”。

目前已知的一些信息是： 起价为 3000 美元， GB10 芯片，128GB 统一内存，可以跑200B参数的大模型，并且可以通过NVIDIA ConnectX 连接两台设备来跑405B参数的大模型。

演示的机器尺寸不大，功耗应该也不大。

性能究竟如何可以参考这条： 推测内存带宽可能在 500 GB/s 左右，跑70b-4bit 大模型大概 13token/s 的速度。

图3是randomfoo2做的一个同类产品对比。同类技术还有AMD Ryzen AI Max ，具体产品可以参考HP的 Z2 Mini G1a，可能更便宜。但内存带宽应该是不如Project Digits。而且AMD的产品生态上肯定不如老黄了