打破垄断并不容易。
2022年11月底,ChatGPT的出现,不仅一把火点燃了生成式AI的浪潮,同时还将GPU巨头英伟达送上了神坛。
如今的英伟达靠着AI 芯片的领先,不仅在市值上一路飞涨,同时垄断了全球AI算力近90%的市场。
值得一提的是,GPU本身并不是专门为了AI而设计,不少芯片公司都推出过更专用化的AI芯片。
但英伟达拥有自己的护城河——CUDA软硬件协同技术。有了它,在很长一段时间里,只有英伟达的GPU才能处理各种复杂的AI任务。
这就造成了一个困境——所有人都被绑死在英伟达这艘船上,很少能用替代品。
总有人希望摆脱垄断,之前是PyTorch、OpenAI,现在有更多厂商站了出来。
巨头联合开发新软件,意图打破CUDA垄断据路透社报道,一个名叫UXL基金会的科技公司联盟,正计划通过开发新的技术底座,从而摆脱英伟达的束缚。
从网上公开资料可知,UXL是Unified Acceleration(统一加速)的简称。其创始成员包括高通、谷歌云、英特尔、Arm、三星在内的大型科技公司,足以看出该联盟的含金量。
不过值得一提的是,整个基金会围绕的核心其实是英特尔的oneAPI计划,这是一套能够为多种类型 AI 提供支持的软件和工具,旨在简化跨多架构的开发过程(如CPU、GPU、FPGA、加速器)。
从时间节点来看,该项目在去年的9月举办的Linux 基金会开源峰会上推出,计划于今年上半年确定技术规范,而基金会的最终目的是希望从软件入手,从而与英伟达解绑,并帮助 AI 开发者不必依赖英伟达平台。
在接受采访时,谷歌高性能计算总监兼首席技术专家Bill Magro 表示:“具体来说,在机器学习框架的背景下,我们如何创建一个开放的生态系统,并提高硬件的生产力和选择。”目前,英特尔的 OneAPI已经被验证可用,而下一步创建专为AI设计的标准计算编程模型。
除了最初参与的公司之外,基金会还计划吸引亚马逊云计算、微软Azure等公司,以及其他芯片制造商,而英伟达则被排除在外。
就在UXL 基金会之前,知名AI开发框架PyTorch正在拓展支持更多GPU与加速器,OpenAI旗下开源算力编程模型Triton也正试图绕过英伟达CUDA,从而支持英伟达竞品,而包括AMD也有自己的开发者工具ROCm,各方都开始“围剿”英伟达。
护城河难跨CUDA之所以能成为英伟达的护城河,正是因为其庞大的GPU软件计算生态。
你可以把他理解成GPU的Windows系统,虽然有Linux这样的替代品,但因为多年以来构成起来的生态以及用户粘性,很少会有科技企业会放弃这个编程语言从头训练AI产品。
从本质上讲,是否使用CUDA,还是取决于任务的需求。对于较小的AI设备的话,工程师确实可以使用其他开发工具替代CUDA。
但涉及到大公司的企业级任务,包括AI大模型、自动驾驶模型,CUDA凭借自身出色的速度以及可扩展性,始终是大公司的首选解决方案。
长期来看,虽然其他厂商也会推荐新的AI芯片以及非CUDA标准,但想要完全取代英伟达芯片并不现实。
另外,英伟达自身也意识到CUDA的地位可能在下滑。因此在今年GTC大会之前,开始禁止第三方硬件兼容CUDA。
在过去,英特尔、AMD等公司会参与ZLUDA这样的第三方项目,国产厂商也有类似的兼容方案,这些非英伟达GPU可以直接兼容CUDA接口,从而直接运行CUDA 程序。
但现在来看,英伟达希望再度加固CUDA系统的垄断,客户要么重新选一个生态系统,要么继续使用英伟达的产品。
虽然竞争对手们一直在“炮轰”英伟达的 CUDA,不少人都认为开源软件开发框架会比CUDA更高效地使用。
但奈何英特尔、AMD等芯片厂商在硬件层面都很难追上英伟达,更不要说带着第三方开发者们放弃目前最好用的AI训练生态。
我们可以说UXL基金会的愿景很好,但想要取代CUDA,现在看起来似乎还挺遥远的。
本文作者:jh,观点仅代表个人,题图源:网络