英伟达的新技术,无关芯片

袁遗说科技 2024-08-14 17:30:49

英伟达即将推出的GB200服务器机架将主要通过在硬件管道里循环的液体,而不是空气来冷却,该机架包含英伟达下一代Blackwell芯片。英伟达发言人表示,该公司还在与供应商合作开发其他冷却技术,包括将抽屉大小的整个计算机浸入可吸收和散发热量的不导电液体中。

随着工程师们试图抑制这种设备的巨大电耗,冷却突然成为一项热门业务。高盛的研究显示,预计全球数据中心,也就是处理AI计算的大型计算机,到2030年将占到美国8%的总电力需求,而目前这一比例约为3%。

随着科技公司竞相在内容创作、自动驾驶等领域部署AI,英伟达GB200系列有望受到追捧。

本月初,由于投资者对Blackwell产品可能延迟上市做出反应,英伟达的股价遭受重创。尽管该公司表示今年下半年将提高产量,但超微首席执行官梁见后表示,时间表“被推迟了一点”。梁见后说他预计明年第一季度将有大量产品下线。超微生产采用英伟达芯片的服务器机架。

数据中心有多达数万台服务器,往往噪音大、温度低。加州大学河滨分校电气与计算机工程副教授任绍磊表示,在使用风扇和空调等旧设施的数据中心,冷却占电力消耗的40%,如果采用更先进的技术,这一比例可以降至10%或更低。

液冷已成为高端游戏电脑的常见配置,但在更大规模应用方面,传统上液冷仅用于解决最大的问题,例如核电站。让液体在精密电子设备中循环的前期成本可能是安装空调和风扇成本的很多倍。而且有些零件供应不足。

冷却系统泄漏是最大的风险。

“但凡有一滴水滴到服务器上,比如价值数百万美元的GB200,就可能造成灾难性的破坏”,力致科技股份有限公司(Forcecon Technology)总经理连春源(Oliver Lien)表示,该公司与半导体制造商合作开发冷却系统。

摩根士丹利最近的一份报告显示,目前超过95%的数据中心使用气冷技术,因其设计成熟、可靠性高。

梁见后说,超微将在明年交付的约30%的机架中使用液体冷却技术。他说,6月和7月份该公司交付了1,000多个液冷AI机架,占全球新数据中心部署的15%以上。

英伟达既制造自己的服务器,也向其他服务器制造商供应芯片,这些制造商为开发AI应用的科技巨头制造设备。有关冷却技术的决策往往由这些公司共同做出。

制造挑战

据参与相关计划的人士透露,总部位于中国台湾的代工制造商富士康在中国台湾和墨西哥生产英伟达GB200系列方面发挥着主导作用。

冷却问题的敏感性在7月底凸显出来,当时社交媒体发帖称GB200的冷却系统存在泄漏,随后富士康和两家冷却部件供应商的股价下跌了5%以上。

熟悉生产情况的人士表示,这是生产准备测试中出现的正常问题,供应商可以解决。他们表示,冷却系统问题不太可能对GB200的发货计划产生重大影响。富士康和相关供应商的股价此后随即迅速恢复。英伟达不予置评,富士康亦未回应置评请求。

超微表示,其液体冷却系统使数据中心的功耗降低了30%至40%。英伟达表示,液冷数据中心可以在相同的空间内容纳两倍的计算硬件,因为气冷芯片在服务器上需要更大的空间。

力致科技的连春源表示,如果只使用空气冷却,此类高性能计算机运行就会需要服务器机房温度低于50华氏度(约合10摄氏度)。除了耗电量大之外,风扇产生的灰尘会妨碍性能,而且24小时不停的嗡嗡声也会令邻居生厌。

“对于英伟达、AMD或谷歌等公司的高端AI应用来说,液体冷却绝对是不可避免的,” 连春源说道。由液体冷却那部分的机器发出的声音就很小,而不是高速运转的“呼呼”声,而且几乎不会扬起灰尘。

“把手放在机器上,你会感觉到轻微的震动,这种温和的运行方式告诉你,它们正在勤奋工作,” 连春源说道。

据摩根士丹利估计,英伟达GB200的高端型号机架的液体冷却系统成本超过8万美元,约为现有搭载英伟达H100芯片的机架气冷系统成本的15到20倍。摩根士丹利预计,到2027年,这类系统的市场规模将增长一倍以上,达到48亿美元。

成长的烦恼

在这些系统中,泵机将冷却剂循环到芯片顶部冷凝板上的微通道中,在冷却液温度上升时将其抽出。

行业发展过程中一个明显的阻碍是专用部件短缺。超微表示,由于主要与液体冷却有关的部件短缺,该公司不得不推迟价值约8亿美元的产品出货。

高管们表示,供应紧张的一种部件叫做通用快速断开接头,它可以防止管道系统部分断开时发生泄漏。英特尔液冷项目负责人、中国台湾热管理协会(Taiwan Thermal Management Association)会长龚育谆表示,这种部件主要由欧美企业生产,但全球冷却系统业务的一半以上都集中在中国台湾企业手中。

中国台湾企业正受益于为游戏电脑散热的经验,就像英伟达最初为游戏行业制造了很多芯片,后来才进军AI领域一样。

业内许多人认为,下一步可能是完全浸入吸热液体中,不过该技术目前还面临一些质疑,因为液体和定制水箱成本高昂,维护也更麻烦。

据知情人士透露,包括酷冷至尊(Cooler Master)在内的中国台湾企业正在为英伟达未来可能推出的产品研发浸没式冷却技术。酷冷至尊是英伟达的长期合作伙伴,其高端电脑冷却硬件广受电子游戏爱好者的青睐。

去年,英伟达首席执行官黄仁勋(Jensen Huang)在一次贸易展上驻足观看中国台湾技嘉科技(Gigabyte Technology)展示其浸没式冷却设备。

“干得好,”黄仁勋在展会上说。“这就是未来。”

0 阅读:3

袁遗说科技

简介:感谢大家的关注