英伟达:老黄再放超级大招,史上最强AI芯片H200!

游戏AI君 2023-11-14 21:49:56

2023年11月14日,老黄正式推出了史上最强AI芯片——H200,这是英伟达下一代人工智能超级计算机芯片的旗舰产品,可提供传输速度4.8 TB/秒的141GB显存,与A100相比容量翻了近一倍,带宽增加了2.4倍,性能较H100提升了60%到90%,Llama 2推理速度翻倍!

英伟达

在13日晚,英伟达发布了HGX H200 AI专用芯片,利用Hopper架构来加速AI大模型推理,为去年H100 GPU的新一代产品,也是目前英伟达有史以来最强大的AI芯片!

过去一年的时间里,全球各大科技公司提出最多的一词就是“算力”,算力不足也一直被视作是人工智能发展的主要瓶颈,阻碍了现有人工智能模型的部署,并减缓了新模型的开发。

OpenAI曾一再表示其GPU资源不足,这导致ChatGPT的研发速度变慢,英伟达推出的H200预计将成为新一代AI卡皇!

得益于HBM3e,H200提供 141GB 内存和每秒 4.8 TB 的带宽,这是2020年发布的A100内存贷款的2.4倍,内存容量翻了将近一倍!

相比于消费级显卡,老黄在AI专用芯片上很舍得堆料,H200更大更快的内存,可以加速AIGC和LLM的发展,在处理 Llama2 等大型语言模型时,H200 的推理速度比 H100 GPU 提高了 2 倍。

根据业内人士估计,H100 芯片的成本在 25,000 美元到 40,000 美元之间,需要数千块H100一起工作才能训练创建目前最大的LLM。

本季度英伟达的销售额将飙升至170%,据报道称,英伟达再次发力,为中国市场推出了三款新的缩水版人工智能芯片——HGX H20、L20 PCIe 和 L2 PCIe,这几款芯片将占英伟达芯片收入的1/4,华尔街乐观估计英伟达可以获得更宽松的芯片出售许可限制。

1 阅读:79
评论列表
  • 2023-11-15 11:33

    华为2025年赶上[得瑟]

  • 2023-11-15 14:39

    这块卡不知道多重40000美元成本 比黄金也要贵了吧

游戏AI君

简介:游戏、影视、AI相关讯息