據(jù)報道,當?shù)貢r間3月19日,英偉達于GTC開發(fā)者大會上發(fā)布了以處理百億參數(shù)AI模型為核心的新品——DGX SuperPOD,旨在助力超大規(guī)模AI訓(xùn)練和推理工作負載實現(xiàn)穩(wěn)定而高效的性能輸出。
據(jù)悉,新型DGX SuperPOD采用全新的高效水冷機架式設(shè)計,搭載英偉達DGX GB200系統(tǒng),F(xiàn)P4精度下具備11.5 exaflops的人工智能超級計算力以及240 terabytes的高速內(nèi)存。用戶可以通過加裝機架進行持續(xù)擴充。
一套DGX GB200系統(tǒng)內(nèi)含36塊英偉達GB200加速卡,其中包含36顆英偉達Grace CPU以及72顆英偉達Blackwell GPU,經(jīng)由第五代英偉達NVLink技術(shù)組合成一具高性能超算。
相較于英偉達基于H100 Tensor Core GPU打造的產(chǎn)品,GB200加速卡在大型語言模型推理任務(wù)中的表現(xiàn)將有望提高最多30倍。
英偉達現(xiàn)有的DGX SuperPOD套裝包含至少8套DGX GB200系統(tǒng),通過英偉達Quantum InfiniBand技術(shù)擴容后,能夠容納數(shù)萬枚GB200加速卡。
英偉達名譽主席及首席執(zhí)行官黃仁勛指出,“英偉達的DGX系列人工智能超級計算機是智能化工業(yè)革命的催化劑。而此次推出的DGX SuperPOD集成了最先進的加速計算、網(wǎng)絡(luò)和軟件技術(shù),使每一家企業(yè)、行業(yè)乃至國家均能充分利用該平臺完善并發(fā)展自身的人工智能技術(shù)”。
-
人工智能
+關(guān)注
關(guān)注
1806文章
48960瀏覽量
248528 -
加速卡
+關(guān)注
關(guān)注
1文章
63瀏覽量
11167 -
英偉達
+關(guān)注
關(guān)注
22文章
3937瀏覽量
93473
發(fā)布評論請先 登錄
AI大模型不再依賴英偉達GPU?蘋果揭秘自研大模型

IBM攜手英偉達AI數(shù)據(jù)平臺推動企業(yè)級AI創(chuàng)新
英偉達推出基石世界模型Cosmos,解決智駕與機器人具身智能訓(xùn)練數(shù)據(jù)問題

丹麥推出首臺AI超級計算機Gefion
英偉達發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型
英偉達與阿聯(lián)酋G42合作開發(fā)天氣預(yù)測AI模型
英偉達投資日本AI公司Sakana AI
英偉達Blackwell可支持10萬億參數(shù)模型AI訓(xùn)練,實時大語言模型推理
英偉達震撼發(fā)布:全新AI模型參數(shù)規(guī)模躍升至80億量級
蘋果AI模型訓(xùn)練新動向:攜手谷歌,未選英偉達

評論