第一线智算网络技术部总监张先国揭秘:构筑AI算网,支撑企业实现AI原生转型

第一线DYXnet 2024-12-23 14:08:34

随着人工智能技术的飞速发展,展现出巨大商业潜力。据IDC 2024年数据指出,到2030年,人工智能(AI)将为全球经济贡献19.9万亿美元,推动2030年全球GDP增长3.5%,几乎98%的企业领导者将AI视为其组织的优先事项,AI的价值来自企业在现有业务运营中使用 AI 以及向客户提供更好的AI产品/服务等方面。大模型作为近年来的创新AI技术,成为了众多行业争相布局的焦点。从传统制造业到现代服务业,从教育医疗到金融科技,各行各业都在积极探索如何借助大模型技术实现转型升级,一场以AI大模型为核心,推进业务向AI原生化升级的浪潮正席卷而来。

 

近期,第一线DYXnet智算网络技术部总监张先国接受了51CTO的独家专访,在谈及AI智能时代,企业数智化转型需要注重的方向时,他坦言道:释放数据价值是这一进程的关键。以前数据只是存放在业务数据库中,企业仅是对其进行简单检索,很多非结构化数据难以发挥价值。但现在,借助AI的能力可以更好地释放数据价值。对于企业来说,关键在于如何发挥私有数据价值的同时保护自身数据,避免让自己的数据仅仅成为大型平台的一部分,这才是企业未来转型的真正价值所在。

随着大模型深化发展,越来越多的企业开启数智化升级。大模型私有化呈现出愈发明显的趋势。企业只有将私有数据、专业知识和行业经验融入大模型之中,进而打造出 AI 原生化的业务形态,让模型生成更符合企业实际和专业需求的内容,才能够为企业提供更加具有针对性的决策支持和解决方案,进而更好地帮助企业获得竞争优势。

AINet战略布局

双线并行

面对AI大模型新发展趋势,第一线正致力于向AI应用与大模型服务+AI原生基础设施服务升级。其中AI原生基础设施服务方面,第一线的战略方向便是构建AINet。在这一战略中,第一线采取了以下两条路线:

传统业务层面进行创新

这包括SD-WAN/MPLS VPN、核心网络架构以及SASE安全。目前,第一线正致力于将这些技术与AI相结合,以实现以下目标:通过SD-WAN/MPLS VPN+AI实现流量的智能预测;核心网+AI构建出InsightNet智能网络;将SASE的AI能力集成到位于核心网络边缘的SASE POP,打造智能安全防护体系。

打造AI原生超互联架构基础设施

围绕企业进行AI原生转型,第一线紧跟企业对安全、AI、算力等方面的更高要求,通过技术创新、生态合作,构建了AI原生超互联架构基础设施,实现了算力与网络的深度融合,为企业提供了一个集AI算力、私域数据、模型、隐私计算于一体的企业可信计算空间,能够支持企业在AI原生领域的创新。

融合联动

双向路线汇聚而成的AINet将提供网随需动、双网联动的服务赋能,为企业AI业务应用的训练、推理等多方面场景,提供智慧基础底座支撑。

扫清AI原生化痛点

向私有化而行

张先国表示,基于私有数据构建AI原生化业务的优势显而易见,而在私有大模型的训练与推理过程中,也充满着多方面挑战。

算力需求井喷带来的挑战

在大模型训练阶段,由于参数量和训练数据集巨大,对算力有着极高的要求。以金融行业为例,在训练专属金融大模型时需要处理的数据量动辄几十T甚至达到PB级别。然而,当前市场上GPU资源紧张,算力成本高昂,如何有效利用算力资源成为企业面临的一大难题。

数据隐私保护难题

作为企业的核心资产,近年来数据泄露和隐私侵犯事件频发,让企业对于数据隐私保护的担忧日益加剧。如何保障大模型训练过程中的数据隐私安全,成为企业必须面对的重要课题。

承势而为

张先国强调,在新的趋势驱动下,第一线正不断深化探索AI原生超互联架构的建设,汇聚创新技术与AI算力资源,形成具备多元能力加持的服务底盘,承载企业AI原生化的全面升级。

构筑可信计算空间

双线并行

第一线AI原生超互联架构实现了园区与楼宇之间算力直达的高速安全通道,以构筑可信计算空间,解决了算力资源紧张和数据传输需求激增的问题,助力企业实现基于私有数据进行大模型训练的同时,实现更高级别的数据安全性。

算力层面

第一线通过整合多方AI算力资源,形成具备多元算力加持的服务底盘。

网络层面

第一线基于远程RDMA等技术打造的AI原生超互联架构,采用动态切片技术进行网络的动态切换。在客户需要大算力时,能够快速分配出大带宽且安全隐私的直连网络,并为其开通百G以上带宽,保障巨量数据与算力端之间实现快速、高效的互联互通,并在任务完成后自动释放资源。

安全层面

第一线构建了隐私计算平台,打造了端到端加密+算后即释放能力。

首先,第一线在网络中增强了实时大带宽加密能力,从而确保客户端与算力服务端之间的数据传输全程加密。当企业与算力端建立连接后,将获得性能与安全兼具的算网支撑,同时确保数据不会向外部传输。

其次,所有计算服务器将只有内存而无硬盘,实现无盘隐私计算,私有数据算后即清。这意味着计算完成后将结果传回去,随后便清空相关数据。当下一次有其他客户使用时,又会建立一个动态的私有连接,在内存空间中开展新计算服务,计算完成后同样不会留下任何痕迹与保存。如此一来,就能确保做到数据只存在于当前计算时空内的私有计算空间中,用户可放心使用相关计算服务。

解决方案

以某教育企业为例,第一线通过为其构建一个新的私域来存放数据,并提供算力专网服务。通过将数据打造为私有向量数据库形式的知识库,并与第一线提供的隐私计算算力相连接,利用隐私计算算力进行微调训练。在训练过程中,所有数据都在私域空间内完成处理,确保不会向外部传输。最终,训练出一个新的AI模型,并将其部署到公网上供教育企业用户使用。

这如同拼接“乐高”一般,第一线传统业务平面+AI原生超互联架构形成的AINet,将作为汇聚网络、算力与安全等多元能力的大底盘,支撑企业推进创意创新孵化成个性化的AI原生业务形态,以供自身智慧升级,或对外提供智慧服务。

全新技术范式

大模型私有化部署带来的诸多挑战催生了新技术与解决方案的需要。正是凭借敏锐的行业洞察力和强大的技术实力,第一线在不断转型升级过程中,打造出了AI原生超互联架构,即满足了传统业务的需求,又让企业部署私有化大模型应用变得更加简单,为业务持续创新和发展夯实了基石。这种转型不仅是业务范围的扩大,其构建的架构为企业提供了全新的技术范式,在算力资源整合上突破传统局限,通过区域联动构建起强大的算力矩阵,为应对大模型训练的高算力需求提供了创新思路。

随着这些技术方向的持续演进,第一线 AI 原生基础设施将逐步构建起以智能算力调度为核心,智能网络架构为纽带,严密数据安全防护为保障的完整体系。通过不断探索新的 AI 应用场景,第一线 AI 原生基础设施将成就企业加速AI原生化,并基于此实现业务模块之间的协同更加紧密,数据流转更加顺畅,进而推动整个企业架构朝着智慧方向重塑,最终达成企业在技术创新、业务拓展以及运营效率提升等多维度的数智化转型目标,在未来的科技竞争格局中占据有利地位,并持续引领行业发展的技术变革潮流。

0 阅读:3

第一线DYXnet

简介:全球领先的云网安服务提供商,提供“AI+云网安”融合服务