新一批創(chuàng)新企業(yè)開始基于 DGX 系統(tǒng)、Base Command 和 DGX SuperPOD 來實現(xiàn) AI，包括 Adept AI、現(xiàn)代汽車集團、KT 和威斯康星大學麥迪遜分校。

在GTC 大會上，NVIDIA 公布了DGX 產(chǎn)品系列的多項更新，有望推動企業(yè)級 AI 開發(fā)實現(xiàn)新突破。

NVIDIA DGX H100 系統(tǒng)現(xiàn)已提供訂購。這些基礎(chǔ)設(shè)施的基礎(chǔ)構(gòu)建模塊支持 NVIDIA 的全棧企業(yè)級 AI 解決方案。

NVIDIA DGX H100 在 FP8 精度下提供 32 petaflop 的性能，將能大幅提升企業(yè)級 AI 開發(fā)的效率。與上一代系統(tǒng)相比，DGX H100 的總體擁有成本降至1/3，能效提高 3.5 倍。

新的 NVIDIA Base Command 軟件可簡化和加速 AI 開發(fā)，有力支持從單節(jié)點到 DGX SuperPOD 的各種 DGX 系統(tǒng)高效運行。

此外，NVIDIA DGX BasePOD（DGX POD 的進階版）也揭開了面紗，它使 IT 團隊能更快速輕松地獲得、部署和管理企業(yè)級數(shù)據(jù)中心 AI。

全球許多 AI 領(lǐng)軍企業(yè)都在使用 NVIDIA DGX 系統(tǒng)和軟件，致力于尋求技術(shù)突破（從自動駕駛汽車到語音助手），且從未放緩創(chuàng)新的步伐。

全新 NVIDIA Base Command 功能

NVIDIA Base Command 提供企業(yè)級編排和集群管理功能，并且包含完整的軟件棧，以盡可能地提高 AI 開發(fā)者的工作效率、IT 可管理性和工作負載性能。

Base Command 的工作流管理功能現(xiàn)在包含對本地 DGX SuperPOD 環(huán)境的支持，使企業(yè)能通過簡化的項目團隊協(xié)作、集成的監(jiān)控和報告面板來集中控制 AI 開發(fā)項目。

Base Command 與 NVIDIA AI Enterprise 軟件套件配合使用，該套件現(xiàn)已包含在所有 DGX 系統(tǒng)中。借助此 NVIDIA AI 軟件，客戶可以使用其所支持的 AI 和數(shù)據(jù)科學工具、優(yōu)化的框架和預(yù)訓練模型，進行端到端 AI 開發(fā)和部署。

另外，此軟件還能與以下公司的企業(yè)工作流管理和 MLOps 工具進行集成：DGX-Ready 軟件提供商 Domino Data Lab、Run.ai、Weights & Biases，以及NVIDIA初創(chuàng)加速計劃成員 Rescale。此軟件還包含多個庫，不僅能優(yōu)化和加速計算、存儲和網(wǎng)絡(luò)基礎(chǔ)設(shè)施，還能確保盡可能地延長系統(tǒng)的正常運行時間、安全性和可靠性。

全新 DGX BasePOD 參考架構(gòu)

DGX BasePOD 為 DGX 系統(tǒng)提供參考架構(gòu)，該架構(gòu)融合了集成計算、網(wǎng)絡(luò)、存儲和軟件方面的最佳設(shè)計實踐。

客戶已經(jīng)使用 NVIDIA DGX POD 來推動各種企業(yè)應(yīng)用的開發(fā)。DGX BasePOD 基于DGX POD 的成功，其新型行業(yè)解決方案瞄準了 AI 領(lǐng)域的巨大機遇，包括自然語言處理、醫(yī)療健康和生命科學以及欺詐檢測。

DGX BasePOD 解決方案通過 NVIDIA 合作伙伴網(wǎng)絡(luò)，作為完全集成、可隨時部署的產(chǎn)品提供給客戶，其規(guī)模介于兩個到數(shù)百個 DGX 系統(tǒng)之間，并采用由以下 NVIDIA DGX 存儲技術(shù)合作伙伴開發(fā)的認證高性能存儲技術(shù)：DDN、戴爾、NetApp、Pure Storage、VAST Data 和 WEKA 等。

領(lǐng)軍企業(yè)借助 DGX 系統(tǒng)推動 AI 開發(fā)實現(xiàn)突破

世界各地的許多企業(yè)都選擇 NVIDIA DGX 系統(tǒng)來有效運行其高級 AI 工作負載。以下是在 DGX A100 系統(tǒng)上開發(fā)任務(wù)關(guān)鍵型 AI 功能的部分 AI 創(chuàng)新者：

機器學習研究和產(chǎn)品實驗室 Adept 正在打造基于大型語言模型的 AI 團隊成員，其原型基于 NVIDIA DGX Foundry 開發(fā)，然后利用 Oracle Cloud Infrastructure上的 NVIDIA A100 GPU 和 NVIDIA Megatron 進行擴展。

現(xiàn)代汽車集團正使用 40 個節(jié)點的 DGX SuperPOD，探索研究超大規(guī)模 AI 工作負載。

電信公司 KT 正在使用 NVIDIA NeMo Megatron 框架、NVIDIA DGX SuperPOD 和 NVIDIA Base Command 軟件，為各種韓語應(yīng)用（包括 GiGA Genie 智能揚聲器）開發(fā)一個包含大約 400 億參數(shù)的 LLM。

威斯康星大學麥迪遜分校正在將 NVIDIA DGX 系統(tǒng)與 Flywheel 研究平臺以及 NVIDIA Clara 醫(yī)療健康應(yīng)用框架一起使用，致力于快速將 AI 引入到醫(yī)學成像設(shè)備中。該大學與其他醫(yī)院合作，使用 NVIDIA 聯(lián)邦學習應(yīng)用運行時環(huán)境 (NVIDIA FLARE) 在 DGX 系統(tǒng)上安全地訓練用于醫(yī)學成像、標注數(shù)據(jù)和分類的 AI 模型。

審核編輯：湯梓紅