NVIDIA Spectrum-X 使基于 NVIDIA Hopper 十萬卡 GPU 的巨型系統(tǒng)成為可能

NVIDIA 宣布，xAI 位于田納西州孟菲斯市的Colossus 超級計算機集群達到了 10 萬顆 NVIDIA Hopper GPU 的巨大規(guī)模。該集群使用了NVIDIA Spectrum-X 以太網(wǎng)網(wǎng)絡平臺，該平臺是專為多租戶、超大規(guī)模的 AI 工廠提供卓越性能而設計的 RDMA（Remote Direct Memory Access）網(wǎng)絡。

Colossus 是世界上最大的 AI 超級計算機，目前正被用于訓練 xAI 的 Grok 系列大語言模型，以及作為 X Premium 用戶功能之一的聊天機器人（Chatbot）。xAI 正在將 Colossus 的規(guī)模進一步擴大一倍至 20 萬顆 NVIDIA Hopper GPU。

xAI 和 NVIDIA 僅用了 122 天就建成了所有配套設施和這臺最先進的超級計算機，從第一個機架落地到開始訓練任務，只用了 19 天。而建造這種規(guī)模的系統(tǒng)通常需要數(shù)月乃至數(shù)年的時間。

在訓練 Grok 這種超大型模型時，Colossus 實現(xiàn)了空前的網(wǎng)絡性能，在三層網(wǎng)絡架構下，整個系統(tǒng)未出現(xiàn)任何因流量沖突而造成的應用延遲增加或數(shù)據(jù)包丟失的情況。憑借 Spectrum-X 先進的擁塞控制功能，系統(tǒng)數(shù)據(jù)吞吐量一直保持在 95%。

這一性能水平是傳統(tǒng)以太網(wǎng)在大規(guī)模的情況下根本無法實現(xiàn)的，傳統(tǒng)以太網(wǎng)在數(shù)千條流發(fā)生沖突時，只能提供 60% 的數(shù)據(jù)吞吐量。

NVIDIA 網(wǎng)絡高級副總裁 Gilad Shainer表示：“AI 正變得至關重要，對性能、安全性、可擴展性和成本效益提出了更高的要求。NVIDIA Spectrum-X 以太網(wǎng)網(wǎng)絡平臺專為那些如 xAI 一樣的創(chuàng)新企業(yè)提供更快的處理、分析和執(zhí)行 AI 工作負載的速度，進而加速 AI 解決方案的開發(fā)、部署和上市。”

埃隆·馬斯克在 X 上表示：“Colossus 是世界上最強大的訓練系統(tǒng)。xAI 團隊、NVIDIA 和我們的眾多合作伙伴及供應商干得漂亮。”

xAI 發(fā)言人表示：“xAI 構建了全球規(guī)模最大、性能最強的超級計算機。借助 NVIDIA Hopper GPU 和 Spectrum-X，我們得以突破大規(guī)模 AI 模型訓練的邊界，打造基于以太網(wǎng)標準并經過超級加速和優(yōu)化的 AI 工廠。”

Spectrum-X 平臺的核心是 Spectrum SN5600 以太網(wǎng)交換機，它支持高達 800Gb/s 的端口速度，采用了 Spectrum-4 交換機 ASIC。xAI 采用了Spectrum-X SN5600 交換機與NVIDIA BlueField-3 SuperNIC的端到端解決方案，實現(xiàn)了前所未有的性能。

專門面向 AI 的 Spectrum-X 以太網(wǎng)網(wǎng)絡具有先進的功能，可在提供高效、可擴展的帶寬的同時，實現(xiàn)低延遲和短尾延遲，而這些功能之前是 InfiniBand 網(wǎng)絡所獨有的。Spectrum-X 的功能包括基于 NVIDIA DDP（Direct Data Placement）技術的動態(tài)路由、擁塞控制計算，以及增強了 AI 網(wǎng)絡的可視性和性能隔離，所有這些功能都是多租戶生成式 AI 云和大型企業(yè)應用環(huán)境的關鍵要求。