美国互联网巨头 Amazon 的 AWS 部门长期以来一直是云服务市场最大的参与者之一。它高度依赖 Nvidia 组件和软件，但与此同时，它正在开发自己的基础设施，利用 2015 年以 3.5 亿美元收购的 Annapurna Labs 的开发。
图片来源： Amazon
据英国《金融时报》报道，该公司将于下个月向公众展示能够训练大型语言模型的 Trainium 2 加速器。这些加速器的样本已经被初创公司 Anthropic 使用，亚马逊已向该公司投资了 40 亿美元。
AWS 计算和联网服务副总裁 Dave Brown 表示：“我们希望成为运营 Nvidia 的绝对最佳场所，但与此同时，我们认为能够拥有替代方案是常态。在生成 AI 模型响应时，Inferentia 系列加速器已经比 Nvidia 的解决方案便宜 40%。当涉及到数千万美元的支出时，在选择计算平台时，这些节省可以产生重大影响。
到今年年底，亚马逊的资本支出可能达到 750 亿美元，明年还会更高。去年，它们被限制在 484 亿美元，增长的规模表明，在 AI 系统市场快速发展的背景下，该公司考虑为其基础设施融资的重要性。Futurum Group 专家解释说，大型云服务提供商正在努力形成自己的垂直集成和同质化所用芯片结构。他们中的大多数努力开发自己的计算加速器芯片，这使他们能够降低成本、提高利润、加强对芯片可用性和一般业务发展的控制。“与其说是芯片，不如说是整个系统，”Annapurna Labs 的工程总监 Rami Sinno 解释说。据他介绍，很少有公司能够大规模复制 Amazon 正在做的事情。
自己设计的芯片使 Amazon 能够消耗更少的电力并提高自己数据中心的效率。TechInsights 将 Nvidia 芯片与旅行车进行了比较，而 Amazon 的内部解决方案类似于专为狭窄任务设计的更紧凑的掀背车。亚马逊并不急于分享其加速器的速度测试数据，但根据现有数据，Trainium 2 芯片的速度应该比其前身快四倍。就其本身而言，Nvidia 解决方案的替代方案的出现已经受到 AWS 客户的高度赞赏。
