昇思破浪AI新大陆:释潜能、能深思、集众智

通信什么咬一口 2024-12-19 02:25:51

飞象原创(魏德龄/文)“有时候,我感觉我们在打造一件工具,像古代的人塑造石器或木质工具一样。有时候,我感觉我们在建造一艘远洋轮船,帮助人们发现大洋彼岸的新大陆。”这段来自MindSpore高级工程师Loannis Lamprou的开场白感性地诉说了昇思的价值。

业界经常把人工智能比喻为一块人类正在开拓的全新大陆,其中蕴藏的巨大智算价值,有待通过高效的工具来予以挖掘利用,大陆上的算力又如同新一轮的全球物种交换,能够为几乎所有行业带来升级。

而从刚刚落幕的昇思人工智能框架峰会上众多嘉宾学者的口中不难发现,昇思正在成为开拓AI新大陆的破浪者,帮助行业用户挖掘最大算力价值的工具利器。

释潜能,靠框架

“如何把几千万人民币的资源发挥到极致,依靠的就是AI大模型训练框架。”智谱AI CEO张鹏在现场分享2024年的感受时谈到,怎样把资源利用好的关键其实在于框架的不断改进。

对此,中国移动研究院AI中心技术负责人王斌在业界大咖讨论环节给出了下面一组关于昇思在实践落地中的实践结果数字。在中国移动哈尔滨的全球运营商最大单体智算中心的项目中,移动需要思考选择什么样的框架,才能驾驭好如此规模的计算装置,从而发挥出最高性能。

经过对比,昇思和NPU实现了更好的软硬件协同,在同等集群和同等模型、同等超常配置下,昇思性能比Pytorch高15%左右。中国移动基于昇思框架,在千亿参数模型训练上,最长实现了22天的稳态训练。在集群性能中,通过选择昇思+NPU,采用多维并行策略下,整个集群线性度达到98%,达到业界领先水平。

在中国电信的TeleChat2系列模型项目中,电信与昇思通过通力合作,同样克服了如算子适配、性能优化、精度对齐等诸多困难。“无论是从我们角度上的模型训练效果,还是昇思角度上的集群训练效率,都达到了很好的共赢结果。”中国电信人工智能研究院高级算法总监宋双永表示。

“在AI技术体系中,AI框架处于‘承上启下’的位置,南向使能多样化算力,北向孵化各类算法模型,是人工智能应用创新的土壤和源泉。”中国人工智能学会副理事长、中国工程院何友院士在大会演讲中讲解了AI框架的作用,并且表示昇思作为自主创新的AI框架,过去4年开源社区影响力快速提升,已跻身全球主流AI框架第一梯队。

经历5年发展,昇腾硬件伙伴从5家发展到60多家,伙伴基于昇腾开发的硬件产品已经近千款。软件伙伴也从100多家发展到2000多家,联合开发的解决方案接近4000多个,广泛应用于互联网、金融、政府、电信、能源、交通、公共事业等行业核心业务场景。

本次大会的成果发布环节中,昇思携手18家生态伙伴重磅发布基于昇思AI框架的大模型原生开发成果,面向金融、工业、互联网、电信、能源、交通等重点行业推出丰富的AI应用,加速千行万业数智化升级。

面对大模型技术的跨越式演进,昇思也正在持续探索AI框架的未来和无限可能。

用昇思,能深思

随着以OpenAI发布的o1出现,计算过程正在从单任务、单模型走向多任务、多模型。深度学习和强化学习相融合的方式,让框架需要解决在多模型协同交互下的复杂编程问题,推理和强化学习任务的混合部署和调度问题,训推权重的在线转换与并行策略的动态调整问题。

另外,大模型的参数量、序列长度和模态结构继续以指数级速度演进。对此框架要解决的问题是异构模型带来的计算不均衡问题,超长序列带来的内存爆炸问题和模型并行出现的流水线空跑问题。

“昇思在设计之初就构筑了框架原生分布式并行能力,最大化实现算法泛化性,以应对快速迭代的模型技术。”华为ICT战略与业务发展部总裁彭红华表示,昇思持续探索前沿分布式技术,以更高效的AI框架加速模型创新。

对此,昇思围绕开发者编程体验、大模型训练及AI框架基础能力,持续升级框架架构:

首先在开发者编程体验方面,昇思兼容业界主流生态,提供一致开发体验,持续降低迁移学习成本。

其次在大模型训练方面,昇思提供更丰富的分布式并行策略,结合自动搜索仿真调优,为大模型训练节约端到端成本。

最后,面向最新类o1模型带来的技术挑战,完善多模型多任务调度、训推无缝转换能力,强化学习亲和架构,加速类o1模型演进升级;面向AI4S场景,昇思持续升级底层函数式编程体验,并打造高性能AI4S使能套件,联合行业用户、科研机构、学术专家共同加速科研创新,推动科技进步。

“今天我可以很自豪地说,昇思MindSpore已经成为大模型时代AI框架的新选择!用昇思,更能深思。”昇思MindSpore开源社区理事长丁诚的这句话,后者可谓表达了在AI深度思考能力上的持续创新,前者则无疑体现了如今火热的社区人气。

集众智,汇众力

“我们始终坚信每一个个体之力如同沧海一粟,唯有集众智、汇众力,才能将昇思推向未来的新高度。”丁诚专门在演讲最后强调了共促框架生态繁荣的意义。

昇思赋能开发者激发学术与技术创新,开放治理,共建开源框架繁荣生态。昇思社区专门面向学习阶段的开发者,提供30多个主题课程,600多场线上线下的专题活动,帮助每一个开发者掌握AI技术知识。在实践阶段,社区已经发布了1100多个实习任务,举办30多场大赛,帮助开发者在实践中成长开发技能。在充分掌握AI技能以后,社区将提供专项学术论文专项基金,以社区项目制支持的方式,让开发者更好地获得创新资源和成果激励。

开源四年以来,昇思MindSpore在社区活跃度方面整体取得了近百倍的增长。社区贡献者从200增长到了3.7万,累积代码提交突破10万,下载量从10万增长到1100万,这些用户来自全球130多个国家和地区,遍布2400多座城市。昇思还与200多个科研团队在各AI领域进行深入合作,累计发表顶会论文1700多篇,位居中国第一,全球第二。

在社区力量的支持下,昇思联合各界和累积原生适配了50多个大模型,并且通过套件的能力封装,可以实现开发、训练、微调、部署的全流程开箱即用。同时有1700多名社区伙伴采用昇思框架,累积孵化了超过2000个解决方案,在互联网、金融、能源、交通等关键行业获得广泛应用。

中国科学院科技战略咨询研究院预测,中国AI框架2024年新增市场昇思份额将达30%。这标志着昇思MindSpore成为大模型时代AI框架的新选择,作为中国乃至世界的框架“新势力”,引领技术创新,加速全面智能化时代到来。

彭红华在致辞中表示,华为一直坚持打造开放的计算产业生态,坚持根技术创新,与产业界共同打造坚实的、可持续的计算产业生态。人工智能框架是AI时代的操作系统与软件底座,领先的AI框架需要同时具备“更高效、更敏捷、更开放”的技术与生态能力,未来,华为将持续投入昇思MindSpore,坚持以开源的方式,向业界开放技术创新成果,携手产业界客户、伙伴和广大开发者共促中国人工智能框架生态健康、高速发展。

正如古人用石器开辟文明,航海家乘风破浪发现新大陆,昇思作为时代的“远洋轮船”,正在将AI技术带向广阔的新世界。这是AI框架的挖掘算力潜能的力量,也是不断向前的探索精神与众智聚力所形成的时代合力。框架“新势力”昇思正与全球开发者、科研机构、行业伙伴一道,开拓更深远的科技大陆,共享AI的无限可能。

0 阅读:2

通信什么咬一口

简介:感谢大家的关注