作者| 程茜
编辑| 心缘
智东西4月14日报道,明天,北电数智首届酒仙桥论坛将于北京举办,以“开启AI生产力元年”为主题,围绕产业创新应用、生态发展与数智未来三大议题,覆盖AI基础设施、数据、算力、模型、产业、应用、人才多个话题开展为期6天11场论坛。
演讲嘉宾包括中国工程院院士邬贺铨、中国信通院云计算与大数据研究所所长何宝宏、京东方科技集团科学家冷长林、北方华创微电子副总裁夏凡等。
北电数智是北京电控旗下高科技企业,成立于2023年8月。上个世纪50年代,酒仙桥是北京电控前身北京751厂的所在地,在这片区域生产出了新中国第一支电子管、第一台电话交换机等,北电数智的首届酒仙桥论坛也在此开启。
目前北电数智已经形成一个底座、两个平台的布局,即“星火·智算”AI产业发展底座与传统产业赋能平台、新兴产业加速平台。
北电数智CMO杨震谈道,目前国内还没有真正意义上的智算云,未来当芯片层、模型层进入稳定收敛期,智算云才能有固化形态。因此,北电数智正以不同切面的共性平台来逐步形成初步的智算云。
北电数智CTO谢东从三个角度剖析了北电数智在产业中的差异化优势,首先是目标,北电数智的目标是借助AI支持产业快速发展;其次是身份,作为国企,该公司可以更容易和头部企业合作;第三是布局,北电数智拥有全栈AI能力,纵向提供算力、模型、软件服务,根据不同城市的产业发展需求,打通当地产业链,让技术能快速落地,横向是广泛的生态布局。
北电数智打造的北京数字经济算力中心,通过高性能“异构计算平台”“星火·国产算力AI原生适配认证”技术体系,提供从芯片选型到算力配置、场景适配的最优算力方案。
该算力中心占地面积35000平方米,PUE值为1.14,是城市级智算中心中最低的。杨震解释说,一般这样的PUE指标通常会出现在平原或戈壁等散热条件好的智算中心上。
并且其混元算力已经部署达到1000P,其中集成了70%的国产芯片、30%的英伟达芯片,未来这一智算中心将有能力提供万P算力。
从算力角度看,目前国产算力整体有两个特性,产能不够、各家发展不均,面对海量、高频推理任务,需要不同的算力集群联合。
2023年10月,北电数智打造了先进计算迭代验证平台,早期这一平台的目的是以集群接近生产环境进行测试,之后他们发现,需要让不同芯片协同作战,才可以完成市面上的一些任务。
基于此,北电数智基于异构纳管等策略,同时实现了算法加速和模型适配,使得芯片和主流基座模型实现交叉适配,同时基于稀疏计算等让芯片性能提升。
杨震解释说,其底层技术路线和DeepSeek的工程优化类似,不同的是DeepSeek是其模型本身针对H800的优化,北电数智则进行了普适的国产芯片、主流基座模型优化。去年12月,北电数智推出了国产算力PoC平台。
杨震透露,目前北电数智的算力集群中通过协同作战的方式对外提供服务,已经打造了550P国产算力集群,这也是国内最大的混元集群。在算法加速提升芯片性能上,平均来说可以让整个国产算力表现提升1-2倍、2-3倍,吞吐量提升7-8倍,推理表现上,配合针对性的算法加速,实现首字延迟的10倍优化,解码延迟10倍优化,吞吐量提升80倍以上。
谢东谈道,国产芯片单颗芯片综合能力和国际的先进芯片有差距,因此他们的策略有两个,一是芯片合起来办大事,二是各自做擅长的事。
二、1个底座+2大平台,智算中心要进入精细化运营北电数智的底座包含AI计算基础设施、AI数据服务。杨震谈道,数据是模型的燃料,此前数据要素面临供不出、流不动、用不好且不安全的难题,基于此,北电数智去年在可信数据空间的基础上将其提升为AI可信数据服务。
两个平台为传统产业升级平台和新兴产业加速平台,传统产业升级平台指AI+产业、AI+城市等,新兴产业加速平台就是具身智能、无人驾驶等AI原生业务。
杨震认为,智算中心应该进入精细化运营阶段,目前智算中心有的被闲置,有的智算中心与企业需求不相匹配,很多企业不会用、用不起,产生结构性矛盾。
在数据层面,去年7月,北电数智推出可信数据空间,实现了让数据可用不可得、可用不可见。
杨震说,近期可以进行联网搜索的DeepSeek在使用时效果变差了,这是因为它不可避免会受到互联网数据的影响。可信数据空间中,可以实现数据源可信,就能有效避免模型被互联网数据毒害。
谢东补充说,大模型的能力在企业中需要专业知识加持,需要好的基座模型+专业知识库,保证信息实时更新,对专业问题回答得准,这也是可信数据空间能避免模型被互联网数据毒害的原因。
这一数据底座之上,北电数智为企业提供了资产管理、数据流通和利用、AI数据生成等服务。杨震举例说,在医疗行业,北电数智正将可信数据空间对外运营,也就是让更多市场端企业可以在一定情况下调用其中的医疗数据能力。
AI全栈能力的协同计算方面,北电数智形成了AI异构计算平台和模型适配平台。
AI异构计算平台可以将不同算力集群进行统一纳管、灵活调度,模型适配平台包含训练推理的适配加速、混推混训部署、数据集管理等。模型层有开源模型仓库、训推工具、Agent定制拼图。模型适配平台已经对主流24个大模型做了适配和加速支撑。杨震将其比作笔记本电脑,笔记本电脑需要在操作系统之上,安装办公、财务等各类软件。
传统产业赋能平台分为医疗、工业制造的产业层面。北电数智正在和北京5家三甲医院合作打造专项模型,杨震透露,截止到今年年底,其将和北京超过10家的三甲医院合作。
对于企业而言,他们需要构筑企业层面知识库、将企业工作流重新进行整合、通过数据整合实现企业的多智能体开发,产生全新的工作流模式等。
在新兴产业方面,具身智能针对家庭场景训练,需要虚拟仿真的训练环境、物理模型等,基于此,北电数智将搭建平台帮助机器人和实际场景相结合。
杨震进一步解释了“搭平台”的含义,就是提供从芯片、数据、服务、模型、应用层的服务,让不同生态伙伴有机会接触实际场景。
结语:AI落地加速,深度运营、持续增长、因地制宜成智算中心关键AI正在加速落地各行各业,但不同企业的核心需求不同,为智算中心的建设提出了更高要求。
在业务布局上,北电数智围绕一个AI底座以及传统产业升级和新兴产业加速两大核心方向,构建起了一套完善的业务体系。杨震谈道,北电数智的差异化定位和核心竞争优势是,找产业链的卡点和断点,从算力、算法、数据、模型服务、工具链等全面服务,满足全生命周期需求。
在这个基础上,北电数智构建智算中心的逻辑就是深度运营、持续增长,并根据当地产业结构,实行“一地一策”,与此同时,他们在深入当地时,又会联动生态伙伴找到自己的商业机会,形成有当地产业结构特色的新兴产业生态和集群。