全面拥抱人工智能国产大模型,肇庆新区如何能?

怜南聊房产 2025-03-22 03:46:33

国产大模型DeepSeek

今年2月连续五天开源五项核心工具,

引发全球开发者热议,

被网友称为“科技界春晚”。

粤港澳大湾区各地

都纷纷迫不及待拥抱这个“科技的春天”,

开展DeepSeek本地部署。

近日公布的2025年肇庆市政府工作报告提出,要前瞻布局未来产业,积极拥抱人工智能大模型开源生态,开展“人工智能+”行动,大力发展人工智能应用场景和关联产业等,充分彰显了肇庆以科技创新驱动高质量发展的决心。

开源的国产大模型,正在如何改变肇庆?

在接入人工智能方面,

肇庆拥有什么优势,面临哪些挑战?

广州应用科技学院高性能计算平台中心机房。图源广州应用科技学院

近日,记者走访有关部门、企业,

一探究竟。

↓↓

一、拥抱人工智能的肇庆速度

短短一个多月以来,肇庆市政数局宣布全面接入DeepSeek,肇庆高新区、广应科、肇庆市第二人民医院等政府、教育、医疗机构纷纷宣布,完成了DeepSeek R1的本地化部署,进一步打开了肇庆社会治理人工智能格局。

其中,肇庆新区、肇庆高新区

这两个肇庆科技创新的前沿阵地

更是不遑多让。

▲肇庆新区

近日,肇庆高新区完成DeepSeek R1大模型本地私有化部署,在内网测通上线,并基于本地资源建立了知识库,宣布“AI公务员”上岗。坐落在肇庆新区的肇庆市汇睿大数据中心(以下简称“汇睿数据中心“)宣布成功部署DeepSeek-R1/V3满血版大模型,成为肇庆首个实现国有大型柔性数据中心与AI深度融合且投入商业使用的标杆项目。

在即将过去的一季度,

汇睿数据中心

吸引了开普云AI人工智能联盟的

10余家企业、

北京城建云、普光智算等项目落地,

总算力规模达到600P,

投资额超过5亿元。

▲肇庆市汇睿大数据中心

“比起自行部署DeepSeek,汇睿数据中心通过超融合的方式进行组网,可以大大增加物理资源如CPU、GPU、内存等的资源利用率,大幅度降低企业部署的成本。”

汇睿中心技术总监陈锦豪告诉记者,他们还即将推出个人和企业版具身智能体应用,打造“随身AI大脑”。

▲汇睿数据中心技术总监正在调试柜机接入。肇庆市融媒体中心记者 林琳 摄

此外,“DeepSeek的探索与应用”

还走进了肇庆的青年夜校。

共青团肇庆市高要区委员会联合中共肇庆市高要区委党校、高要区政务服务和数据管理局、中国电信高要分公司组织了专题培训,围绕DeepSeek大语言模型的核心功能,为青年夜校的学员一一解锁党建大模型、问答知识库、数据职智能分析、智能客服、财务助手、审计助手等高频应用场景,助推工作效率提升。

二、算力角逐的肇庆优势

“如果十来个用户同时访问就导致服务器繁忙,那人工智能的部署意义不大……进入大模型的开源时代,在人工智能的应用端,归根到底,是运算能力(算力)和安全性的角逐。”

目前正在和肇庆有关部门密切推进人工智能深度应用的陈锦豪,简明扼要地指出了这场“竞赛”的本质。

他表示,

在算力、存力和数据流通基础设施建设上,

肇庆拥有自己的巨大优势。

比如,汇睿数据中心

是辐射粤西地区唯一的国资数据机房,

每个网络环境

都是获得三级等保认证,

拥有广东省内

为数不多的数据中心能耗指标等。

▲肇庆市汇睿大数据中心机房

据悉,汇睿中心拥有2564个单机柜6KW高性能机柜,节能技术目前省内领先,服务涵盖机柜租赁、数据存储、云服务、云平台、云计算的硬件设施和软件开发服务。

以这次DeepSeek本地部署为例,

汇睿数据中心

通过AIStation管理平台优化算力调度,

使模型训练效率提升40%,

推理成本降低30%,

突显了算力基础设施规模化

应用AI技术的优势。

此外,汇睿大数据中心配有先进的间接蒸发冷散热技术,能轻松应对DeepSeek高密度计算带来的散热挑战。数据显示,其能效比(PUE)降至1.28以下,较传统风冷方案节能超15%,为AI模型的高效运行提供可持续保障。

接下来,汇睿数据中心

还将与高校和生态产业深度合作,

利用中心的计算平台

开展前沿技术研究,

既打造肇庆市人工智能的高地,

也促进产学研用一体化发展。

预计到2026年,

可初步建成规模10亿元的产业孵化器,

提供1万个相关就业岗位,

并带来每年2亿元的税收收入。

▲汇睿大数据中心配备有先进的间接蒸发冷系统

三、面对人工智能的挑战

不过,当我们忙着给政府服务

装上“最强大脑”时,

或许该先问问:

这个大脑有没有安装“防病毒软件”?

3月初,国家网络安全通报中心发布关于大模型工具Ollama存在安全风险的情况通报。鉴于目前DeepSeek等大模型的研究部署和应用非常广泛,多数用户使用Ollama私有化部署且未修改默认配置,存在数据泄露、算力盗取、服务中断等安全风险,极易引发网络和数据安全事件。

在过去,与AI企业的合作中,

合规性难题

是影响AI技术落地的重要因素。

汇睿中心创新性借鉴了中国(温州)数安港的“1112x”合规体系,在数据安全领域,打造出“粤西版”可信数据空间,通过差分隐私、联邦学习等技术,实现数据“可用不可见”。

“比如在医疗健康数据的应用中,

系统会自动脱敏患者身份信息,

同时保留疾病特征用于模型训练,

既保障隐私又提升科研效率。”

陈锦豪补充道。

AI大模型的接入目的因应用场景而异,

企业针对的是如何降本增效、

政府针对的是如何优化公共服务、

院校则侧重科研效益。

但无论如何,都要先完成知识库的投喂。

被问及肇庆有关部门在全面接入DeepSeek方面可以提供的支持,陈锦豪建议,希望各行各业可以尽可能的提供日常的数据,建立更加完整且准确的本地知识库。

0 阅读:0