长江研究:GTC黄仁勋演讲要点

全产业 2025-03-24 03:44:07

卡展示,Geforce 5090 显卡相较于 4090 显卡,体积缩小 30%,损耗减少 30

024 年全球前 4 超算运营商共采购 130 万片 Hopper 架构芯片。2025 年,它们又采购了 360 万 Blackwell 芯片。

EDGE 6G:Tmobile、cisco、nv、odc英伟达表示,将与电信企业合作开发基于人工智能的 6G 无线技术。英伟达正与T-Mobile、MITRE、Cisco、ODC和 Booz Allen Hamilton 合作开发 AI 原生 6G 无线网络的硬件、软件和架构。电信公司将合作在 NVIDIA AI Aerial平台上为 6G 构建 AI原生网络堆栈,T-Mobile 和英伟达将扩大 AI-RAN 创新中心的合作,MITRE 将研究、原型开发,并贡献开源的 AI驱动服务和应用,Cisco 将提供移动核心和网络技术,Booz Allen将开发 AI RAN 算法并确保 AI原生 6G 无线平台的安全。

英伟达 Grace Blackwell 解决方案正式投入全面生产英伟达 Grace Blackwell 解决方案正式投入全面生产。Grace Blackwel 系列包括多个产品,如 GB200 和 B200,这些产品采用台积电 4nm 工艺制造,拥有高达 2080 亿个晶体管。使用 Grace Blackwell 的各厂商包括联想、戴尔、微软、亚马逊 AWS、Meta、谷歌等。在 Blackwell 超级计算机中,大约有 20辆车的零部件,可见其高集成度。

Nvidia 推出 Dynamo 软件,号称是“A!工厂的操作系统”,称其可提高效率并降低成本英伟达正式发布号称是AI工厂的操作系统的 Dynamo。Dynamo 是一个分布式推理服务库。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper 可实现 25 倍的性能提升。

而在推理模型中,Blackwell的性能是 Hopper的40 倍。该公司表示,Dynamo 甚至可以将在 Nvidia 的 Hopper 平台(Blackwell 的前身)上为 Meta 的 Llama 模型提供服务的性能提高一倍。

0 阅读:0

全产业

简介:感谢大家的关注