在实际部署 AI 模型时，企业面临高昂的算力和运行成本。随着越来越多的公司感受到高成本和回报平衡的压力，它们可能会减少对 GPU 芯片的支出。这对芯片供应商如英伟达可能是一个不利信号。

当地时间 4 月 24 日，英伟达官方宣布，为了助力客户最大化地利用其 AI 计算资源，现已收购一家名为 Run:ai 的公司。该公司的技术可以更有效地管理和调配 GPU 资源。据了解，收购价格在 7 亿美元左右（约 51 亿元）。英伟达在以色列的上一笔大宗交易是在 2020 年斥资 70 亿美元收购迈络思科技有限公司（Mellanox Technologies Ltd.）。另据媒体报道，英伟达还即将收购一家专注于优化 AI 模型的公司 Deci。

通过整合两家公司的技术，英伟达可以降低其产品的使用成本，不仅能增强现有客户的满意度，也能够吸引更广泛的客户群体，从而扩大其市场份额。因为成本仍然是企业尤其是中小型企业考虑的重要因素。

这种成本效率的提高也有助于英伟达在竞争激烈的市场中保持领先地位。尽管英伟达目前在 AI 芯片市场仍占据主导地位，但英特尔、AMD 及一些 AI 专用芯片公司，都发布了相关产品，意图从英伟达手中抢下一定市场份额。

此外，由于计算资源对能源消耗和环境影响的日益加剧，通过优化 GPU 等芯片的能效，除了减少成本也能进一步实现可持续发展，并加速 AI 技术在各行各业的应用。

再来具体介绍 Run:ai 和 Deci 是如何“降本增效”的。

Run:ai 基于开源容器编排平台 Kubernetes 来管理和编排工作负载，旨在实现高效 GPU 集群资源利用。由于 AI 技术的部署正变得越来越复杂，不再局限于单一运行环境，需要在不同的环境中（如云平台、边缘计算和本地数据中心）处理多样化的工作负载（包括生成式 AI、推荐系统和搜索引擎等）。

而每种环境都有其特定的优势和限制，通常需要大量计算资源和复杂的任务调度来优化性能。Run:ai 为企业提供了一种灵活而强大的工具，使它们能够跨本地、云端和混合环境管理和优化其计算基础设施，无论是处理大规模数据、运行复杂的 AI 模型还是支持日常业务操作。

（来源：Run:ai 官网）

简单来说，Run:ai 平台为 AI 开发人员提供了一个中心化的用户界面，用户可以更轻松、更快速地部署和管理复杂的 AI 工作负载。这种集中管理有助于简化操作，降低出错率，并提升效率。

此外，Run:ai 支持将 GPU 和其他共享计算资源汇集到单个任务中，无论是部分 GPU 的使用，还是跨多个 GPU 或不同集群的多个 GPU 节点的协同工作。这使得处理大规模或特别复杂的 AI 任务成为可能。同时提供了监控和报告资源使用情况的功能，使资源管理更为高效和透明。

通过优化 GPU 集群的资源利用率，不仅降低了成本，也加快了 AI 开发和训练过程，从而能更快地将 AI 模型投入生产使用。这意味着客户可以从其计算投资中获得更多的收益。

Run:ai 的解决方案已经与 NVIDIA DGX、NVIDIA DGX SuperPOD、NVIDIA Base Command、NGC 容器和 NVIDIA AI Enterprise 软件等产品集成。英伟达官方博文中提到：“通过与 Run:ai 的合作，将为客户提供一种统一的架构，使它们能够在任何地方访问和利用 GPU 解决方案。”

另外一家公司 Deci，成立 于 2019 年，主要致力于优化 AI 模型，使之能够在芯片上以更低成本运行。

在 AI 领域，随着技术进步和应用的扩展，运行大型复杂 AI 模型所需的计算资源和成本也在迅速增长。这成为许多企业尤其是资源有限的企业面临的一个大挑战。

Deci 通过技术手段调整 AI 模型的结构和大小，在不牺牲性能的前提下，减少模型的计算需求。这种减少直接降低了昂贵的 AI 芯片等硬件成本。较小的模型还能节省能源，进一步降低运行成本，从而实现成本和效率的最优化。这对于促进 AI 技术的广泛和实际应用具有重要意义。

图 | Deci 技术示例（来源：Deci 官网）

在提供高效的 AI 模型的同时，Deci 还注重数据安全和成本控制。同时，该公司的解决方案支持使用英伟达 CUDA 开发的机器学习应用，尤其是在生成式 AI 和计算机视觉模型方面。

其技术不仅局限于特定场景，可部署于多种环境中，具有高度通用性和适应性。这种灵活性使企业能够根据自身的技术架构和需求选择合适的硬件平台。据了解，Deci 已与微软、英特尔、AMD、亚马逊等多家公司达成合作。

可以看到，英伟达通过收购 Run:ai 和 Deci 这样的公司，不仅增强了其产品的技术优势，也直接投入到了提高 AI 模型运行效率和降低成本的竞争中。通过减少企业在运行和维护 AI 系统时的总体成本，有助于 AI 行业向更高效、成本可控的方向发展。在这个过程中，英伟达也或许能借此建立起更为稳固的市场地位。

参考：

https://blogs.nvidia.com/blog/runai/

https://www.theinformation.com/articles/nvidia-to-buy-two-israeli-startups-that-make-its-ai-chips-cheaper-to-use

https://deci.ai/news/deci-ai-unveils-generative-ai-platform-to-deliver-high-performance-ai-models-with-unmatched-cost-efficiency-and-exceptional-control/