首个国产算力PoC平台开放,加速国产算力商用

科技正能量 2024-11-25 11:03:46

11月21日,由北京电子数智科技有限责任公司(简称“北电数智”)打造的首个国产算力PoC平台正式开放,并落地北京数字经济算力中心。其依托北电数智先进计算迭代验证平台(即前进·AI异构计算平台),为国产算力集群提供垂类场景评测、适配与验证服务的同时,为互联网、AI应用开发企业等垂类场景应用开发提供多种算力适配试验空间,实现从底层算力到业务场景驱动的双向链路打通。

国产算力PoC平台的开放是北电数智促进国产算力芯片从“可用”到“好用”的重要举措,将通过“以评促用”的创新模式,帮助互联网企业和AI企业找到适合不同场景的“芯片+软件”最佳组合,从而带来高效、灵活且极具性价比的算力服务,由此加速国产算力的场景化应用和商业化落地,构建繁荣的国产异构算力应用生态。

缺认知、少应用……国产算力面临商业落地焦虑

近年来,国产算力芯片发展迅猛,但大规模商业化应用依然任重道远。由于缺乏足够全面的应用场景展示和切实有效的评测机制,很多算力应用方对国产算力的能力认知不够清晰。传统以指数型评测指标为主的算力评测方案,仅能呈现国产芯片的理论参数,无法展现国产芯片在不同业务场景下的性能指标,使得算力使用方在购买前无法验证国产算力能否满足自身业务需要,对于是否选用更存在诸多顾虑。

此外,算力中心为满足用户日益多元化的算力需求,需采购不同品牌的芯片产品,而多芯片混用的客观现实和建设需求,亦带来了不同芯片间软件不兼容、算力难打通、开发工具链统一管理难度大等难题。这些现实因素共同制约了国产芯片从底层算力到业务场景的商业闭环形成,阻碍了国产芯片的发展与普及。

从算力到场景双向打通,降低国产芯片验证成本

北电数智国产算力PoC平台能够有效降低国产算力芯片的验证成本,解决研发与应用脱节问题,对提高商业转化具有显著的促进作用。一方面,该项目可展示国产芯片在不同AI应用场景下的实际能力和性能表现,让大模型提供方和AI应用开发企业直观了解不同国产芯片的最佳应用场景;另一方面,也可为AI企业或互联网企业提供针对不同垂类场景的国产芯片性能评测验证服务,加速国产算力芯片在千行百业中的广泛渗透与应用。

截至目前,由北电数智统一规划建设与设计运营的北京数字经济算力中心已成功完成对包括摩尔线程、寒武纪等在内的近二十家知名国产算力芯片的部署测试。北电数智也正在面向影视、金融、政务、工业等多个垂类场景开展测试验证服务,为不同行业的垂类模型落地树立标杆案例,并持续探寻国产算力和行业、模型、应用的最佳适配组合。以影视行业为例,北电数智正在面向影视文化产业的AIGC视听解决方案六艺多模态影视文化大模型,基于国产算力PoC平台,深度联合10余家相关AI明星企业,打造人物AI生成代理、剧情创作辅助工具等超级应用,助力推动影视及文化产业的数字化与智能化转型升级。

首个国产算力PoC平台的开放,是对北京数字经济算力中心开放与多元生态引领能力和前进·AI异构计算平台适配验证能力的充分印证,能够帮助算力需求方充分了解国产算力芯片对自身业务的支持程度、适配程度,同时也为算力供给方提供了一个全面展示芯片产品多元场景性能的平台和公正且清晰的评估标准,推动算力资源能够以最优性价比进行高效率的供给,为国产算力提供商业化落地最优解。

——关于北电数智「前进·AI异构计算平台」

「前进·AI异构计算平台」由北电数智牵头,联合业内头部科研团队及国内各大国产算力厂商共同构建,是全国首个在生产环境下可实现规模化测试的全栈迭代验证平台,具有多重优化功能,可通过模型量化加速、模型超参数调优、稀疏化推理等模型优化能力,算子融合加速、计算图优化、硬件访存优化等编译优化方式,加速单芯片的性能。面向多芯片混元异构的未来趋势,前进·AI异构计算平台亦可以针对不同芯片特点,基于模型任务的不同调配合适的芯片算力,让合适的芯片做合适的事,提供具有性价比的高质量算力。

目前,「前进·AI异构计算平台」已实现数千卡国产算力集群的部署工作,并对近二十家芯片企业的产品进行测试,持续增强异构国产算力的性能。以此为纽带,北电数智将与国产算力厂商携手共进,加速国产芯片从“可用”到“好用”,持续拓宽国产芯片应用边界的同时,积极助力应用厂商实现场景化落地,以算力和场景的双向循环,为“重新塑造国产芯片的竞争力、推动国产芯片实现全面提升”的战略目标贡献力量。

0 阅读:1

科技正能量

简介:相信文字有力量改变世界,坚持科技改变生活的正面角度。