美國Supermicro公司,作為AI、云端、存儲及5G領域綜合性IT解決方案供應商,首次推出了針對AI及ML數據操作的一體化優化方案,涵蓋數據采集至高效傳輸全過程。通過充分利用GPU數據通道來縮短AI價值實現時間。在此條件下,其解決方案可以收集并處理大量PB級別原始數據,并納入企業AI工作流。據行業驗證,該解決方案可在實際生產環境中,滿足AI operations(AIOps)和Machine Learning Operations(MLOps)大規模數據需求。采用多機柜級解決方案,Supermicro致力于降低實施風險,幫助用戶更快地訓練模型,并將處理過的數據快速投入AI推理環節。
Supermicro首席執行官梁見后先生高瞻遠矚地指出:針對AI和ML應用的加速處理,我們推薦配置以每機柜20 PB高速閃存為主,配備四個NVIDIA HGX H100系列優化版8-GPU氣冷服務器或者八個同款液冷服務器。這樣不僅提供了高達270 GB/s的讀寫速率和最少3,90萬IOPS的能力作為最低部署標準,而且還可以輕松擴展至數百PB水平。采用這類富含PCIe 5.0與E3.S存儲設備,以及最新WEKA數據平臺軟件的Supermicro系統,保證通過實地測試的機柜級綜合應用解決方案能夠顯著提升AI運行效率。這份全新設計的AI訓練存儲方案能讓客戶全面挖掘高端GPU服務器機柜級解決方案的潛力,進而降低總體擁有成本,提高AI性能。
為了充分發揮GPU效用,GPU服務器應具備較低延遲且高帶寬的數據處理功能,這對于大規模AI訓練運行所需的非結構化PB級數據至關重要。Supermicro提供基于英特爾和AMD技術的大量存儲服務器產品,它們均為AI管道的關鍵組成部分。例如Supermicro Petascale All-Flash存儲服務器,其每臺服務器都具備983.04* TB的NVMe Gen 5快閃數據容量,同時具備高達230 GB/s的讀寫速度和三千萬IOPS的處理能力。除此之外,還有Supermicro SuperServer存儲服務器,采用容量硬件層級,配備90個存儲硬盤插槽。全球廣大用戶已經開始使用這款經測試優化的解決方案,尤其對于ML、GenAI等復雜計算任務。
全新存儲解決方案內容如下:
· All-Flash層級 - Supermicro Petascale Storage Servers
· 應用層級 - Supermicro 8U GPU服務器:AS -8125GS-TNHR 和 SYS-821GE-TNHR
· 物件層級 - Supermicro 90 drive bay 4U SuperStorage Server,運行Quantum ActiveScale物件存儲
· 軟件:WEKA Data Platform和Quantum ActiveScale物件存儲
· 交換機:Supermicro InfiniBand和以太網絡交換機
WEKA公司總裁Jonathan Martin表示:Supermicro具有卓越性能和極速閃存容量的PB級別All-Flash存儲服務器與WEKA的AI制作數據平臺軟件相結合,無疑能夠為現有商業AI客戶提供前所未有的速度、規模和便捷性。
-
NVIDIA
+關注
關注
14文章
5076瀏覽量
103728 -
服務器
+關注
關注
12文章
9308瀏覽量
86071 -
AI
+關注
關注
87文章
31536瀏覽量
270346
發布評論請先 登錄
相關推薦
評論