英特尔推出Gaudi3加速器,预计2024年AIPC出货量将达到4000万台

C114通信网 2024-04-10 11:24:29

C114讯 4月10日消息 在企业级AI基础设施市场上,英伟达毫无疑问占据了先发优势,但英特尔在奋起直追。

北京时间4月9日晚间,英特尔Vision大会召开。英特尔重磅发布了英特尔至强6处理器的全新品牌,推出英特尔Gaudi 3加速器,以高性能、开放性和灵活性助力企业推进生成式AI创新,并发布了涵盖全新开放、可扩展系统,下一代产品和一系列战略合作的全栈解决方案,以加速生成式AI落地。

其中,英特尔Gaudi 3加速器将会是英特尔对抗英伟达的利器。英特尔CEO基辛格也对此寄予厚望。企业希望将生成式AI从试验阶段扩展到应用阶段。因此,他们需要基于诸如英特尔Gaudi 3 AI加速器这样的高性能、经济实用、节能的处理器所打造的可快速部署的解决方案。并且,Gaudi 3还能满足复杂性、成本效益、碎片化、数据可靠性和合规性等需求。

英特尔表示,英特尔Gaudi 3 AI加速器将为AI系统提供动力,该AI系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。此外,在Llama 7B、70B和Falcon 180B大型语言模型(LLM)的推理吞吐量和能效方面也展现了出色性能。英特尔Gaudi 3加速器提供开放的、基于社区的软件和行业标准以太网网络,允许企业灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。

对于Gaudi 3 芯片,英特尔在此前的新闻通气会上称该产品的能效是英伟达芯片的两倍多,运行 AI 模型的速度是英伟达 H100 GPU芯片的1.5倍。

Gaudi系列是英特尔在2022年5月面向人工智能应用场景专门推出的芯片品牌,用以对标英伟达的人工智能计算芯片。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

会上,英特尔首席执行官帕特·基辛格再次重申了他对于“芯经济”的观点。基辛格提出,到2030年,半导体市场规模将达1万亿美元,人工智能是主要推动力。作为人工智能在端侧落地的主要载体之一,英特尔预计将于2024年出货4000万台AI PC,以及超过230种的设计,覆盖轻薄PC和游戏掌机设备。

基辛格表示,英特尔将于2024年推出下一代英特尔酷睿Ultra客户端处理器家族(代号Lunar Lake),具备超过100 TOPS平台算力,以及在神经网络处理单元(NPU)上超过46 TOPS的算力,从而为下一代AI PC提供强大支持。

在去年9月份,英特尔正式提出了AI PC的概念,并得到了产业生态的积极响应。在年初的CES 2024上,基辛格更是表示“AI PC是个人电脑的‘寒武纪’时刻”,言外之意,AI PC将迎来如寒武纪时“生命大爆发”。目前,所有主流PC整机厂商都已经推出相关产品并推向市场。

0 阅读:23

C114通信网

简介:通信业门户,全面报道国内外运营商、设备商及行业动态