F5搭载NVIDIABlueField-3DPU,加速AI应用交付

鱼云 2024-11-05 08:00:43

西雅图,2024 年 10 月 28 日 – F5 (: FFIV) 今天宣布推出 BIG-IP Next for ,这是一种全新的创新型人工智能应用交付和应用安全解决方案,旨在为服务提供商和大型企业提供集中控制点,以加速、保护和简化进出大规模人工智能 (AI) 基础设施的数据流量。

该解决方案利用高性能-3 DPU 来提高对大规模人工智能部署至关重要的数据中心流量效率。通过网络、流量管理和安全的集成视图,客户将能够最大限度地提高数据中心资源利用率,同时实现最佳的人工智能应用性能。这不仅提高了基础设施效率,还实现了更快、更敏捷的人工智能推理,最终提供增强的人工智能驱动的客户体验。

F5 BIG-IP Next for 是专为该环境设计的解决方案,并在大规模电信云和 5G 基础设施中得到了验证。借助 BIG-IP Next for ,该技术现在可以为领先的 AI 使用案例提供定制服务,例如推理、检索增强生成 (RAG) 以及无缝数据管理和存储。与 -3 DPU 的集成可最大程度地减少硬件占用空间并实现细粒度多租户,同时优化能耗并提供高性能网络、安全和流量管理。

F5 与该技术的集成将使移动和固网电信服务提供商能够轻松过渡到云原生基础设施,以满足提供商不断增长的需求,使服务功能适应云原生网络功能 (CNF) 模型。 F5 BIG-IP Next for 通过将数据密集型任务卸载到 -3 DPU 来释放 CPU 资源,用于创收应用程序。该解决方案特别有利于核心网中的虚拟化RAN(vRAN)或MSO的DAA和5G,并为释放未来6G通信的潜力奠定基础。

F5 BIG-IP Next 专为高需求服务提供商和大型基础设施而设计,可提供以下价值。

· 简化云级人工智能服务的交付:BIG-IP Next for 可以与客户的前端网络无缝集成,显着降低延迟,同时提供高性能负载平衡,以处理数亿个参数的人工智能模型和多达万亿级运维 运营的海量数据需求。

增强对人工智能部署的控制:该解决方案为现代人工智能网络提供了一个集中集成点,具有丰富的可观察性和细粒度的信息。 BIG-IP Next for 除了 HTTP 之外还支持多种 L7 协议,确保以极高的性能增强入站和出站控制。

· 确保新的人工智能环境的安全:客户可以完全自动化人工智能训练和推理端点发现以及安全功能。 BIG-IP Next for 还将人工智能应用程序与目标威胁隔离开来,增强数据完整性和主权,同时解决现代人工智能环境中至关重要的加密功能。

F5首席技术官兼人工智能官Kunal Anand表示:“人工智能的普及对先进半导体和技术产生了前所未有的需求。目前,各大公司都在建设人工智能工厂,大规模训练人工智能模型并提供强有力的推理。高度优化的环境,专为具有令人难以置信的速度和最小延迟的处理能力而设计,而F5强大的应用程序交付和安全服务以及全栈加速计算形成了强大的生态系统,涵盖了从硬件加速层到应用程序的所有内容。该界面的整个人工智能工作负载堆栈为客户提供了增强的可观察性、精细控制和性能优化。”

AI网络和安全合作伙伴关系高级总监Ash表示:“服务提供商和企业需要加速计算,以便在大规模云上安全高效地交付高性能AI应用程序。我们正在与 F5 合作,加速 AI 应用程序交付,以更好地确保由 -3 DPU 提供支持的最高效率和无缝用户体验。”

IDC 计算系统研究实践研究副总裁 Kuba 表示:“要实现人工智能的潜力,需要比业界所准备的更多的数据处理能力。” “对于许多企业来说,部署尖端人工智能需要大量的基础设施建设,而这些基础设施往往复杂且昂贵,使得高效、安全的运营比以往任何时候都更加重要。F5 BIG-IP Next用于解决大规模人工智能基础设施的性能和安全问题通过为企业提供优化的流量管理来对AI模型进行推理,在此过程中获得更高的数据摄取性能和服务器利用率,从而为AI应用程序用户带来巨大的客户体验改善。”

WWT 人工智能、应用和 API 安全解决方案全球实践经理 Todd 表示:“随着人工智能工作负载的爆炸性增长,企业对可扩展、优化和增强的控制流量管理的需求激增。随着 F5 带来 BIG-IP Next这项经过验证的技术直接部署在 -3 DPU 上,现在可以在理想的接入点进行大规模 AI 部署,WWT 客户将能够从更高的数据摄取性能和 GPU 利用率中受益,同时在推理和计算过程中获得更好的用户体验。通过获得安全服务的战略控制点,我们能够利用 F5 和 WTT 两个最具战略合作伙伴的先进技术,进一步加强我们的全球网络安全使命,提供卓越的数字安全。”

搭载-3 DPU的F5 BIG-IP Next将于2024年11月上市。欲了解更多信息,请阅读F5的配套博客。

0 阅读:0

鱼云

简介:鱼云提供全球范围的云服务器和物理服务器租赁服务。