随着近两年人工智能的快速崛起以及数字经济的高速发展,市场对于高算力芯片的需求愈发迫切。
然而与此同时,衡量半导体产业技术进步的标尺 —— 摩尔定律的节奏却明显放缓。一方面,半导体制程工艺已经接近物理极限,先进工艺的投入产出比难以具备商业合理性;另一方面受制于光刻尺寸以及晶圆厂良率,单芯片的面积难以无限扩大。
在当今的后摩尔时代,面对算力需求的指数级增长,业界开始从其他维度探索提升芯片算力的新方法。其中,Chiplet(芯粒)技术再次被业界提上日程。
作为国内一家专注于 Chiplet 技术开发的公司,北极雄芯信息科技(西安)有限公司(简称北极雄芯)自主研发的一款异构集成 AI 智能处理芯片已经率先完成了全国产 Chiplet 封装供应链的工艺验证。
“区别于传统单芯片设计模式,Chiplet 通过将‘大芯片拆分为小芯粒’进行生产并集成封装,可有效提升大面积芯片制造的综合良率,同时还可通过 Chiplet 复用带来更为灵活的搭配组合,可以说基于 Chiplet 集成的设计理念是后摩尔时代半导体产业的一个重要演进方向。”北极雄芯创始人马恺声教授告诉「问芯」。
图|北极雄芯创始人、首席科学家马恺声(来源:受访者)
马恺声于 2018 年在美国宾夕法尼亚州立大学取得计算机科学与工程博士学位,同年经姚期智院士招募回国并任职于清华大学,目前他是清华大学交叉信息研究院、人工智能学院的助理教授,博士生导师。
谈及创立北极雄芯的初衷,马恺声表示,主要是想基于国内尚有差距的供应链、工艺等做出高性价比的系统。“当时我刚进入清华大学交叉信息研究院,成为其中除量子芯片外主攻应用芯片研发的‘第一人’,负责提供底层硬件支持。面对这项任务,如何才能够更快速、低成本的开发芯片,同时还能满足 AI+ 各行各业的需求,成了我长期思考的问题。”他说道。
后来,随着摩尔定律逐渐失效,他开始把目光聚焦到 Chiplet 技术。
据介绍,Chiplet 也称“芯粒”,其通过把一整颗 SoC 的功能模块进行解耦,分别设计制造采用不同制程工艺的 Chiplet,再借助 2.5D/3D 先进封装技术集成在一起。“这种异构集成的设计理念,不仅有助于降低芯片的研发成本,而且能够缓解各行业算力需求方在差异化需求、性能、成本、算法迭代周期、供应链保障等多方面的痛点。”他指出。
“2021 年,在完成了 AI 加速模块研发的基础上,我们将商业化运作提上日程,正式成立了北极雄芯,基于 Chiplet 技术研发芯片,提供低成本、快周期的整体解决方案。”马恺声说道。
“用小芯片做大芯片,降低设计开发门槛”
实际上,Chiplet 并不是个新概念,Chiplet 设计理念最早源于 1970 年代诞生的多芯片模组,直到近几年 Chiplet 技术才再次被业界重视。“这项技术虽然是近几年才被大众所了解,但 Chiplet 的概念其实在很早之前就已经被提出来了。”马恺声表示。
在他看来,Chiplet 架构的巨大商业价值在于其在“物理极限”和“商业合理性”中寻求到一个平衡,将大部分 IP 或子系统以“硅片化”的方式形成芯粒,并将不同芯粒通过灵活组合并运用到各个行业实际场景中,大幅降低量产成本,加快迭代速度。
图|围绕 Chiplet 研发规划(来源:公司官网)
据介绍,北极雄芯公司成立三年来已经陆续完成了一系列 Chiplet 基础设施搭建,而自今年以来,北极雄芯开发的高性能通用 SoC 芯粒、GPU 芯粒,以及自研的 Zeus Gen2 AI 加速芯粒等产品将陆续交付流片。
“2022 年,我们通过‘启明 930 AI Chip’率先完成了 Chiplet 异构集成的全流程工艺验证,包括研发设计、流片测试、基于全国产供应链的 2.5D 封装、AI 工具链、模型部署,以及 Chiplet 架构下的编译及数据链路优化等;2023 年,我们自主研发的 Chiplet 互联接口‘PB Link’测试成功,该接口符合国产接口标准且自主可控,具备低成本、低延时、高带宽、高可靠和兼容封装内外互连等特点。”他说道,“截至目前,我们自研的芯粒互联接口标准‘PB Link’以及 AI 加速模块均已实现对外授权。”
业务布局方面,“北极雄芯采用‘异构集成’的 Chiplet 架构,将 SoC 系统解耦为通用型 Hub Chiplet、功能型 Functional Chiplet,并通过自研 D2D 接口和封装方案进行集成,进而形成针对下游不同场景需求灵活组合的芯片 / 加速卡产品。”他介绍道。
当然,围绕 Chiplet 技术的开发目前也面临一系列挑战。“该技术的整体思路是将单颗大芯片所需不同模块在不同工艺制程上分别流片生产并在封装时进行灵活组合,而挑战则体现在‘拆、连、封’三个节点,分别对应芯片架构及设计能力、高速互联接口方案能力以及先进封装能力。”他指出。
图|Chiplet 的拆解与定义(来源:公司官网)
“首先,围绕‘拆’节点,需要兼顾技术可行性及商业合理性。我们以下游场景需求为出发点,统筹考虑性能需求、数据交互类型以及良率、模块复用率等多方面因素定义各块 Chiplet 的最优设计方案。在技术上由 Communication-Aware 芯粒划分方法学降低跨芯粒数据通信负担;在商业上通过内部 Chiplet-Actuary 成本模型平衡工艺 - 面积 - 规格选择,实现高性价比复用的 Chiplet 设计。”他解释道。
“对于‘连’这个节点,我们自主研发了首个符合国内《芯粒互联接口标准》及车规级 D2D 接口标准,通过低延时的 NoP 互连网络,实现多颗芯粒高效通信,助力算力与功能的扩展。”他介绍说。
除此之外,Chiplet 架构下多芯粒互联对基板层数、走线数量等有较高要求,并且对封装也提出了更高的要求。“针对‘封’的节点,我们自研的低线数 PB Link D2D 接口满足国内基板的层数要求,促进供应链国产化;同时,我们自研的多芯粒与封装协同布局设计方法学可助力封装利用率优化;针对 Chiplet 从传统的单裸片系统到多裸片系统的转变,我们研发了高效的封装设计、基于 ANSYS 的芯片 - 封装联仿 Sign-off 流程,在封装级确保 Chiplet 系统的流片成功。”他说道。
马恺声坦言,Chiplet 技术从实验室研发到芯片规模量产,整个过程有大量环节的衔接,最难的是把十余个小芯粒封装在一起并部署相应的任务,把芯片跑通是个非常复杂的工程,涉及如何在架构定义层面进行纵向拆解?需要支持哪些算法?IP 如何集成?如何实现高速互联通讯?如何解决供电散热材料等等一系列难题。“我们联合将近十家厂商一起才跑通了启明 930 芯片,该芯片从研发,到流片,再到回片,耗时将近两半年,此前业界尚没有完整的在国产供应链跑通全部流程的先例。”他说道。
图|启明 930 芯片(来源:公司官网)
现阶段,北极雄芯围绕 Chiplet相关产品涵盖 IP 级、芯粒级以及板卡级等多个类别。“自从成立以来,我们专注于发展完善基于不同工艺节点的互联接口和各类独立 Chiplet,以期能为各场景芯片设计提供 Chiplet 集成开发模式的便利。”他表示。
他接着进一步解释说,“Chiplet 架构能提供多种不同工艺节点的芯粒进行互联,任何芯片设计公司均可基于已有的第三方通用型 Chiplet,比如CPU Chiplet、SoC Chiplet、I/O Chiplet等进行拓展开发,快速制造出与自身场景需求强关联的定制化芯片。如此一来,将有助于提升性价比、降低开发风险、提升产品迭代速度,大幅降低高性能计算芯片设计的门槛。”
“国内Chiplet产业发展路径及侧重点比海外更多元化”
如今,随着人工智能爆发式增长,以及汽车 / 消费电子、数据中心等行业对于高性能计算解决方案需求的不断增加,业界对于 CPU Chiplet、GPU Chiplet、Memory Chiplet 等的需求也逐步提升。
据 Market.US 调研统计,2023 年全球 Chiplet 市场规模约 31 亿美元,2024 年将达到 44 亿美元,预计到 2033 年将达到 1070 亿美元。
图|全球 Chiplet 市场规模(来源:https://market.us/)
现阶段,北极雄芯所开发的产品主要面向智能驾驶等边缘侧场景和大模型推理等云边端部署场景。
细分来看,“随着汽车智能化逐步向跨域融合、高阶自动驾驶等方向演进,Chiplet 架构能够提供多元化需求的组合方式,降低量产成本,加速产品周期,并且支持下游客户共同参与定制化开发,解决汽车芯片开发投入大、风险高、周期长、迭代慢等痛点。”马恺声指出,“利用 Chiplet 架构集成拓展可提升单芯片 / 单卡的峰值算力、存储容量及带宽,提高模型处理能力,降低单位算力和单位带宽使用成本,降低每 Token 的推理成本。”他补充说。
图|Chiplet 架构产品应用领域广阔(来源:公司官网)
市场层面,在马恺声看来,国内 Chiplet 产业起步时间并不明显晚于海外,但由于国内集成电路产业链成熟度与海外相比有较大差距,市场需求领域也较为差异化,因此国内 Chiplet 产业发展路径及侧重点与海外相比更加多元化。
具体而言,“国内高性能计算的市场需求与海外市场略有不同,除了在 AI、大模型训练等领域所需的通用 GPU 等高性能算力需求外,国内智能驾驶、机器人等下游市场领域的发展速度高于海外,应用场景深度及广度均优于海外,将带动定制化高性能计算需求领域的快速增长,为 Chiplet 提供确定性更高的落地场景。”他说道。
“另一方面,国内的半导体产业尚处于发展期,尤其在当今国际形势下亦将长期处于追赶阶段,产业链各环节上与国际领先技术水平相比仍有一定差距,国内高性能计算领域将长期面临供需缺口的痛点。”他补充说。
近年来,市场上也有不少陆续成立的初创公司专注于 Chiplet 芯片设计研发,但其应用领域各不相同。“与各家 Chiplet 芯片设计企业相比,我们芯粒产品库及应用领域更加全面,并且已经在业内率先完成了样片工艺验证,下一步量产开发风险大幅降低。”他表示。
作为中国 Chiplet 产业联盟的底层技术承载主体之一,北极雄芯专注于 Chiplet 技术研发,依托国内院校科研能力支撑在产品技术能力及商业化落地等方面积累了大量经验。“从设计、制造、互联、封装、工具链等全部跑通,在这件事上我们应该是国内第一家。”马恺声说道。
据悉,北极雄芯前不久完成了新一轮融资。“融资资金将主要用于首批核心Chiplet流片及封装测试,随着各类芯粒的不断推出,我们将持续保持在芯粒库构建上的先发优势,率先构建国内首个可独立销售的‘Chiplet 产品库’。”马恺声说道,“接下来,我们将继续按照‘小步快跑’的节奏,以产品研发需求为导向,引进各方产业投资。”
“长远来看,我们致力于 Chiplet 技术在国内的发展,基于 Chiplet 技术降低国内芯片设计门槛,逐步实现各个领域的国产替代。同时我们还将联合 Chiplet 产业联盟成员制定并共同推广国产化的 Chiplet 技术相关标准,建立由中国企业主导的产业生态,实现国家先进制造跨越式发展里程碑。”马恺声总结道。
参考资料:
1.https://www.bjxxtech.net/
2.https://www.bjxxtech.net/html/chiplet/
3.http://www.iiisct.com/chiplet/index.htm
4.https://www.bjxxtech.net/html/cooperate/