這家初創(chuàng)公司通過(guò)共享加速計(jì)算基礎(chǔ)設(shè)施促進(jìn) AI 工作負(fù)載高效集群的資源利用。

為了幫助客戶(hù)更加高效地利用其 AI 計(jì)算資源，NVIDIA 宣布與基于 Kubernetes 的工作負(fù)載管理和編排軟件提供商 Run:ai 達(dá)成最終收購(gòu)協(xié)議。

客戶(hù)的 AI 部署正變得更加復(fù)雜，其工作負(fù)載分布在各個(gè)云、邊緣和本地?cái)?shù)據(jù)中心基礎(chǔ)設(shè)施上。

生成式 AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載的管理和編排需要精密復(fù)雜的調(diào)度，才能優(yōu)化系統(tǒng)級(jí)別和底層基礎(chǔ)設(shè)施的性能。

無(wú)論是在本地、云端還是在混合環(huán)境中，Run:ai 都可以幫助企業(yè)客戶(hù)管理并優(yōu)化其計(jì)算基礎(chǔ)設(shè)施。

Run:ai 在 Kubernetes（現(xiàn)代 AI 和云基礎(chǔ)設(shè)施編排層）上建立了一個(gè)開(kāi)放平臺(tái)。該平臺(tái)支持所有熱門(mén)的 Kubernetes 變體，并與第三方 AI 工具和框架集成。

Run:ai 的客戶(hù)中有來(lái)自多個(gè)行業(yè)的全球超大型企業(yè)，他們使用 Run:ai 平臺(tái)管理數(shù)據(jù)中心規(guī)模的 GPU 集群。

Run:ai 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Omri Geller 表示：

Run:ai 從 2020 年開(kāi)始一直與 NVIDIA 開(kāi)展密切合作。我們都熱衷于幫助客戶(hù)充分發(fā)揮他們基礎(chǔ)設(shè)施的作用。Run:ai 十分高興能夠加入 NVIDIA 并期待繼續(xù)雙方的合作。

Run:ai 平臺(tái)為 AI 開(kāi)發(fā)者及其團(tuán)隊(duì)提供以下功能：

用于管理共享計(jì)算基礎(chǔ)設(shè)施的集中式界面，能夠使復(fù)雜 AI 工作負(fù)載的訪問(wèn)變得更加簡(jiǎn)單、快速。

提供添加用戶(hù)、在團(tuán)隊(duì)下管理用戶(hù)、提供對(duì)集群資源的訪問(wèn)、控制配額、優(yōu)先級(jí)別和池，以及監(jiān)控和報(bào)告資源使用情況的功能。

針對(duì)不同的任務(wù)能夠?qū)?GPU 池化并共享算力——從 GPU 分塊到多個(gè) GPU 或者在不同集群上運(yùn)行的多個(gè) GPU 節(jié)點(diǎn)。

高效利用 GPU 集群資源，使客戶(hù)能夠從算力投資中獲得更大回報(bào)。

在不久的將來(lái)，NVIDIA 將繼續(xù)以相同的商業(yè)模式提供 Run:ai 產(chǎn)品。同時(shí)將繼續(xù)投資 Run:ai 產(chǎn)品路線圖，將其納入到 NVIDIA DGX Cloud 中。NVIDIA DGX Cloud 是一個(gè)與領(lǐng)先的云服務(wù)提供商共同設(shè)計(jì)的針對(duì)企業(yè)開(kāi)發(fā)人員的 AI 平臺(tái)，它能夠?yàn)樯墒?AI 提供綜合全面的全棧優(yōu)化服務(wù)。

NVIDIA DGX 和 DGX Cloud 客戶(hù)將獲得 Run:ai 為其 AI 工作負(fù)載（尤其是大語(yǔ)言模型部署）所提供的功能。Run:ai 的解決方案已經(jīng)與 NVIDIA DGX、NVIDIA DGX SuperPOD、NVIDIA Base Command、NGC 容器和 NVIDIA AI Enterprise 軟件等產(chǎn)品集成。

NVIDIA 加速計(jì)算平臺(tái)和 Run:ai 平臺(tái)將繼續(xù)支持廣大第三方解決方案生態(tài)系統(tǒng)，為客戶(hù)提供選擇和靈活性。

通過(guò)與 Run:ai 的合作，NVIDIA 將為客戶(hù)提供一個(gè)可在任何位置訪問(wèn) GPU 解決方案的單一架構(gòu)?？蛻?hù)有望受益于更高的 GPU 利用率、更好的 GPU 基礎(chǔ)設(shè)施管理以及開(kāi)放式架構(gòu)所帶來(lái)的更大靈活性。

審核編輯：劉清