从上一个智能座舱普及周期进阶全新「AI智能座舱」新时代,算力平台的升级已成既定趋势。
今年以来,蔚来、理想、小鹏、小米、长城、一汽、吉利、广汽、智己等等车企披露了AI大模型的上车计划。另外,华为的盘古大模型也开始在几家合作伙伴车型上搭载亮相 。
基于端侧大模型的各类生成式AI创新应用,打造个性化、拟人化、多模态、沉浸式用户体验,AI智能座舱已经成为各大高端品牌拼杀的下一个主战场。
而从大模型的部署架构方面来看,端云混合部署的模式已经成为趋势,无论从功能丰富度、多样化需求,还是低时延、数据安全以及成本的角度考虑,端侧AI部署都变得极其重要。
端云混合部署的架构下,云端主要用于进行资源调用、复杂任务等的处理,而端侧则进行实时处理和响应、以及用户敏感数据处理。
而从应用创新来看,多元化的AI应用实现,往往需要多模型并发的部署。比如AI语音助手、AI汽车助手、AI商务秘书、手势交互等,催生端侧语音大模型、感知大模型、多模态大模型等在智能座舱平台的集中落地。
以上种种,都对端侧AI大算力的需求急剧提升。
在当前已经量产的座舱芯片平台中,近几年域控方案的兴起,加之如CMS、HUD等丰富功能的集成式部署,使得原本的座舱平台算力资源已经非常匮乏,再难支持AI大模型的部署,尤其是对端侧模型中较为高阶的实时推理、任务编排等功能支持已经明显不足。
这也意味着,面向AI智能座舱风口,各大车企在规划下一代车型的智能座舱平台时,对端侧AI算力的预留同样极其重要。
以上市场风向,也吸引了高通、英伟达、联发科、AMD这类玩家下场。眼下,更多的玩家开始涌入。
近日,英特尔正式发布第一代锐炫™车载独立显卡Arc A760,可以提供高达229TOPS的AI算力,同时还集成了16GB显存,可以很好的满足当前主机厂对端侧大模型部署的AI算力需求;还可以支持4K分辨率、3A游戏级别的渲染等。据介绍,该产品最早可以在 2025 年量产上车。
得益于大算力、大容量显存,Arc A760有能力支持多元化的模型部署方案。据介绍,根据其优化结果来看,可以覆盖从6B、7B、10B、13B甚至到18B的模型区间。
这意味着,基于Arc A760不仅可以承载超大模型部署,还能够在端侧实现多个模型并行,例如同时运行两个7B的模型,甚至同时运行4-5个2B以上的模型来实现不同的任务矩阵。通过将不同的模型能力进行组合,可以实现非常多元化的生成式AI应用场景。
另外,英特尔锐炫™ Arc A760实现了超低的时延和高效输出,根据实测的结果,6B模型运行时首Token时延是0.058秒,吞吐量达到了一秒88个Token,相当于150个汉字。
该产品的另一大优势在于,其也是当前座舱算力平台市场拥有最强3D渲染能力的芯片。
其合作伙伴中科创达展示了基于英特尔方案开发的“滴水 OS 座舱”,同时支持7 块高清屏幕进行 3D 图像渲染、6 个车载摄像头和交互功能。得益于英特尔独立显卡的渲染性能,车模与场景、图标的协同,实现了一镜到底的动态效果。在车机界面中车辆与草丛在雨水中的倒影,都有接近 3A 游戏的光影效果。
在AI智能座舱阶段,除了显示内容和生成式AI应用越来越丰富,对显示模态也提出了更高要求,例如各类生成式场景、驾驶模式下,尤其是未来3A游戏也会陆续上车,配合3D HMI场景的渲染配合声、光等效果,带来更加生动、沉浸式的视听与娱乐体验,也是下一代智能座舱的主要升级方向。
当然,座舱平台的高性能只是一方面,而能否帮助主机厂和Tier 1更好的实现开发和部署落地,才是关键。
英特尔显然也意识到了这一点。除了与中国本土的智能座舱Tier 1、软件、大模型供应商达成合作,其还在快速拓展汽车领域本土化的生态体系和本土化支持体系。
尤其是在软件生态方面,英特尔凭借数十年来X86生态的经营以及AI PC加速计划的推动,其庞大的生态优势也有望助力其在汽车领域拓展。例如基于自研IBT技术的英特尔座舱方案,可以针对跨不同操作系统提供丰富的软件生态支持,同一个解决方案均可以在英特尔平台上实现无缝顺畅运转。
针对AI大模型的部署,英特尔智能座舱软件平台可提供不同层级的SDK,支持大模型的量化、微调和部署。针对中国市场客户,英特尔提供了庞大的本土化技术团队,高达2500名研发工程师大多数致力于AI的基础技术、系统软件以及算法研究。
早在今年的CES上,英特尔发布了第一代软件定义车载 SoC系列,首位客户是中国电动车品牌极氪。加之本次车载独立显卡的发布,英特尔已经面向智能座舱形成了一个灵活可拓展的平台方案,可以满足主机厂不同车型定位的需求。
其中,入门级和中端车型可以搭载英特尔软件定义车载SoC,而高端车型则可以通过部署英特尔车载独立显卡,来快速拓展算力平台并实现AI大模型的部署落地。
目前来看,英特尔面向汽车市场已经构成了比较完善的部署,不过需要指出的是,作为PC时代的霸主,英特尔曾错过了智能手机时代,而在智能汽车时代,同样是稍晚了一步。
根据高工智能汽车研究院最新监测数据显示,2024年1-6月,中国市场乘用车前装智能座舱搭载率突破70%大关。在座舱计算平台方案市场也处于多元化并存周期,分布式和域控架构在不同价位各有市场。
其中恩智浦、瑞萨、TI等传统厂商是传统分布式架构的主力平台玩家,而智能座舱时代,高通、联发科、AMD几大消费类芯片厂商主打娱乐和高算力域控平台异军突起,尤其是高通在智能座舱芯片平台领域已是一枝独秀的局面。国内还有如华为、芯驰、芯擎等一批本土供应商也在快速崛起。而伴随舱驾融合的趋势,原来专注于智驾赛道的玩家也开始拓入智能座舱领域。
英特尔作为“后来者”,在上述细分赛道直面厮杀,实则很难占到“便宜”,尤其是对主机厂来说,更换芯片平台的成本和风险其实并不低。
不过在如今AI大模型上车的风口下,对端侧AI算力的需求缺口凸显,不失为“后来者”的一个机会。
毕竟目前从行业中来看,能够满足端侧大模型部署(6B及以上的模型)并良好运行,尤其是多个模型并发的AI算力平台,依旧是非常稀缺的资源。
尤其是,当前行业中倘若主机厂需要实现AI算力的提升,则需要更换下一代智能座舱芯片平台而实现。
而本次英特尔发布行业唯一一款车载独立显卡产品,无疑给出了更简单、更高效的平台“升级”解决方案,助力主机厂和Tier 1以较为灵活、低成本的方式来拓展智能座舱平台。更重要的是,该产品拉还提供了“冗余”来应对AI座舱的升级趋势。
另外,其还与包括商汤、智谱等多家大模型供应商合作,推出了生成式AI应用解决方案,例如AI虚拟附驾、AI出行伴侣、AI商务秘书、AI创意助手和AI健康管家。
如此,既能够帮助主机厂落实AI大模型的部署上车,也能让主机厂实现AI应用快速落地,抢先进入AI座舱时代,也是个不错的竞争策略。或者说,在AI智能座舱时代,英特尔能否成功拿下入场券,锐炫车载独立显卡或成为关键。