基于最新 NVIDIA Spectrum-X 網絡端到端平臺,助力客戶通過 AI 實現業務轉型
NVIDIA 今日宣布,戴爾科技、慧與和聯想將率先在其服務器產品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網絡技術,幫助企業客戶加速生成式 AI 業務。
Spectrum-X 專為生成式 AI 量身定制,為企業提供了一種全新的以太網絡,相較傳統以太網方案,其 AI 通信網絡性能提高了 1.6 倍。
這三家頭部系統制造商的新系統,整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業通過生成式 AI 來實現業務轉型奠定了基礎。
NVIDIA 創始人兼首席執行官黃仁勛表示:“生成式 AI 和加速計算正在推動新一代的業務轉型,企業需要升級其數據中心來滿足新型業務的需求。加速網絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統的催化劑,加快他們邁向生成式 AI 新時代?!?/p>
戴爾科技集團董事長兼首席執行官 Michael Dell 表示:“加速計算和加速網絡是構建支撐大語言模型和生成式 AI 應用系統的關鍵。戴爾科技和 NVIDIA 將攜手合作,為客戶提供基礎設施和軟件,使他們可以快速、安全地發掘出數據的潛力?!?/p>
慧與總裁兼首席執行官 Antonio Neri 表示:“毫無疑問,生成式 AI 將推動各行各業的創新。這些強大的新型應用將需要一個全新的架構來支持各種不同的動態工作負載。為使客戶能夠充分挖掘生成式 AI 的潛力,慧與與 NVIDIA 攜手共建系統平臺,專們面向新型應用所需的性能、效率和可擴展性等需求。”
聯想集團董事會主席兼首席執行官楊元慶表示:“生成式 AI 推動了前所未有的變革,但也對企業的基礎設施提出了更加苛刻的要求。通過與 NVIDIA 密切合作,聯想正在從網絡、計算和軟件等各個層面全方位構建高效的加速系統,滿足現代 AI 應用的需求?!?/p>
專門用于加速 AI 的網絡
為實現 AI 業務的最佳效率,Spectrum-X 集性能優異的 Spectrum-4 以太網交換機、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規模 AI 業務性能的新型網絡加速器)以及多種加速軟件于一體。全球領先的基礎設施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。
Spectrum-4 是全球首款專門面向 AI 的 51Tb/sec 以太網交換機,可在大規模、滿負荷的場景下提供超高的數據吞吐量,同時在 AI 云業務的多租戶場景下將網絡擁塞降到了最低,其智能的、基于微調的路由技術可以保障網絡基礎設施的最大利用率。
BlueField-3 SuperNIC 專為網絡密集型的大規模并行計算而設計,可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網絡連接,大幅提升了集群內部基于東西網絡流量的 AI 訓練和推理性能,還能實現多租戶數據中心環境的安全隔離,確保租戶業務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規格設計,是企業級服務器的理想選擇。
NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優異的 Spectrum-X 軟件開發套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。
NVIDIA AI Enterprise 為安全、穩定和已經支持的生產級 AI 業務提供了框架、預訓練模型和開發工具。NVIDIA AI Workbench 使開發者能夠在 PC 或工作站上快速創建、測試和自定義預訓練生成式 AI 模型,然后將其擴展至幾乎任何數據中心或云。
搭載 Spectrum-X 的 NVIDIA 超級計算機
NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X,這也是新一代 AI 系統的參考架構。該超級計算機由 NVIDIA 與戴爾科技聯合開發,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器,并通過 Spectrum-4 交換機組成了集群系統。
供應情況
基于全套 NVIDIA AI 解決方案的戴爾服務器、慧與服務器和聯想服務器預計將于明年一季度推出。
點擊“閱讀原文”,了解更多關于NVIDIA Spectrum-X 網絡平臺相關內容!
?更多精彩內容 阿里云與 NVIDIA 合作測試以太網絡新架構
適用于數據中心和 AI 時代的網絡
借助 NVIDIA Spectrum 以太網最大限度地提高存儲網絡性能 ? ?
GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行,線上大會也將同期開放。掃描下方海報二維碼,立即注冊 GTC 大會。
原文標題:戴爾科技、慧與和聯想即將推出 NVIDIA 全新 AI 以太網絡平臺
文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3847瀏覽量
91972
原文標題:戴爾科技、慧與和聯想即將推出 NVIDIA 全新 AI 以太網絡平臺
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論