電子發(fā)燒友網(wǎng)報道(文/周凱揚)英偉達在GTC22上發(fā)布了全新的GraceSuperchip,該芯片中用到了NVLink-C2C技術,而去年公開的GraceHopperSuperchip同樣用到了這一技術。根據(jù)英偉達超大規(guī)模計算部門副總裁IanBuck的說法,Chiplet和異構計算已經(jīng)成了解決摩爾定律緩慢進展的兩大有效手段。而NVLink-C2C這一面向die和chip的互聯(lián)技術,成了英偉達對愈發(fā)普及的Chiplet設計的回應。
Superchip的互聯(lián)
也許在不少人看來的印象中,提到NVLink會想到下圖這個橋接多個高端顯卡或專業(yè)顯卡的RTX NVLinkBridge,其實NVLink這一技術在服務器級別的GPU中反倒更為普遍。從P100的第一代NVLink,到V100的第二代NVLink,A100的第三代NVLink,最后再到如今H100的第四代NVLink。NVLink可以說是跟著GPU架構一路推陳出新了,如今享受第四代NVLink性能的成了Hopper架構的GPU。而在英偉達的SERDES和LINK技術發(fā)展下,NVLink也從PCB、MCM走向了硅中介層和晶圓,也因此有了NVLink-C2C。
RTX NVLinkBridge/ 英偉達
GraceSuperchip顯然用的是ARM NeoverseN2這一基于Armv9架構的設計,但從芯片圖可以看出,單個GraceSuperchip芯片由兩個GraceCPU組成,才讓總核心數(shù)達到了144。而這兩個CPU組成的方式,正是NVLink-C2C這一互聯(lián)技術。我們在開頭已經(jīng)提到,去年公開的GraceHopperSuperchip同樣使用了這一互聯(lián)技術,只不過當時單個GraceHopperSuperchip芯片中互聯(lián)的,是一個GraceCPU和一個HopperGPU。
NVLink-C2C為英偉達帶來的遠不止這樣一對一的互聯(lián)方案,而是一整套系統(tǒng)架構上的創(chuàng)新。在NVLink-C2C的支持下,英偉達可以選擇一個GraceCPU,兩個HopperGPU的設計,或是兩個2個GraceCPU+2個HopperGPU,甚至是2個GraceCPU+8個HopperGPU。可以看出,NVLink-C2C為Grace和Hopper在數(shù)據(jù)中心和HPC應用提供了極大的擴展性。
遠超PCIe5.0的性能
英偉達強調,NVLink-C2C具有前所未有的性能,比如處理器與加速器之間900GB/s的高帶寬數(shù)據(jù)傳輸,以及快速同步和高頻率更新下的超低延遲,以及在先進封裝英偉達芯片下,能效比可以做到PCIe5.0的25倍,面積效率更是達到90倍。
H100 SXM5 GPU / 英偉達
NVLink-C2C900GB/s的帶寬確實優(yōu)秀,也與第四代NVLink的性能一致,但這并不代表只要用上NVLink就能獲得,我們從Hopper架構的GPU H100的參數(shù)上也能窺見一二。要想獲得900GB/s的帶寬性能,必須用到SXM5的大功率卡,而不是PCIe5.0的卡,雖然前者的功耗是后者的兩倍,達到了可怕的700W,但PCIe5.0的H100在總體性能和帶寬上確實差SXM5一截。
兩者在PCIe5.0上的帶寬一致,都是128GB/s,但如果用上NVLink,PCIe5.0版本的H100只能達到600GB/s的帶寬,與第三代NVLink性能一致,只有SXM5版本下的NVLink才能達到滿血的900GB/s。
另外在第四代NVLink和第三代NVSwitch技術的組合下,英偉達推出了NVLinkSwitch這一方案,該系統(tǒng)最多支持到256個GPU,可實現(xiàn)57.6TB/s的總帶寬。NVLinkSwitch也是英偉達DGX H100 SuperPOD系統(tǒng)的關鍵技術,英偉達甚至把自己收購的Mellanox旗下的InfiniBand節(jié)點互聯(lián)技術拿來對比。從上圖可以看出與基于A100+InfiniBand的SuperPOD系統(tǒng)相比,基于H100+NVLinkSwitch的SuperPOD系統(tǒng)在對分帶寬上是前者的9倍。
開放而不是獨占
其實NVLink的存在最初讓不少人覺得有些一家獨大的意思,畢竟最早NVLink僅僅只是用于多個英偉達GPU之間的互聯(lián),僅僅只是為自家的產(chǎn)品提供更多優(yōu)勢而已。而去年發(fā)布的GraceHopperSuperchip同樣用到了這一技術,但這顆芯片卻是英偉達設計的ArmCPU和GPU的互聯(lián)。
這讓人不禁擔心,如果英偉達真的成功收購了Arm,會不會利用這一優(yōu)勢來全面壟斷數(shù)據(jù)中心和HPC市場。畢竟Arm自己給出的互聯(lián)方案CMN-700支持的是CCIX 2.0和CXL 2.0這兩大標準互聯(lián)協(xié)議,同時為第三方加速器提供PCIe5.0的連接。但就紙面參數(shù)給到的性能看來,NVLink這種專用方案似乎更加吃香一些。
不過Arm作為一家IP公司,目標自然是支持到多樣化的加速器,從而全面發(fā)展Arm的生態(tài)。此前Arm在接受電子發(fā)燒友網(wǎng)采訪時也表示,Arm期待給市場帶來更多的靈活性,支持更多像Grace這樣的系統(tǒng)。
NVLink-C2C示意圖 / 英偉達
好在英偉達似乎也不打算將NVLink-C2C獨占,而是宣布開放這一技術,支持集成英偉達技術的芯片半定制,通過Chiplet技術充分利用自家的GPU、DPU、NIC、CPU和SoC產(chǎn)品,與客戶的IP進行NVLink-C2C互聯(lián)。
盡管收購失敗,英偉達與Arm的合作并沒有就此停止,英偉達也在GTC22上宣布繼續(xù)與Arm緊密合作,以支持并在未來改進Arm的AMBA CHI協(xié)議,加上對CXL的支持,從而與更多加速器和處理器做到互聯(lián)。
與此同時,在全行業(yè)群策群力,試圖打通生態(tài)的情況下,英偉達也并不打算將NVLink-C2C作為唯一的可選方案。所以除了NVLink-C2C外,集成了英偉達芯片的定制SoC也可選用前段時日公布的UCIe通用Chiplet互聯(lián)標準,所以不必將數(shù)據(jù)中心上的CPU、DPU和GPU一整套都換成英偉達旗下的產(chǎn)品,給到第三方服務器芯片、DPU和加速器一個機會。不過,考慮到這兩種互聯(lián)方式只能選其一,英偉達也強調了NVLink-C2C經(jīng)過優(yōu)化,擁有更低的延遲、更高的帶寬和更高的能效比,該如何選擇還是看廠商自己的考量了。
-
芯片
+關注
關注
459文章
51891瀏覽量
433212 -
互聯(lián)技術
+關注
關注
0文章
13瀏覽量
8406 -
英偉達
+關注
關注
22文章
3900瀏覽量
92852
發(fā)布評論請先 登錄
相關推薦
挑戰(zhàn)英偉達NVLink!英特爾/谷歌等成立聯(lián)盟,推出UALink 1.0

英偉達GB300 NVL72加速研發(fā),AOS成關鍵DrMOS供應商
英偉達推出GB200 NVL4芯片!液冷UQD快接頭崛起

英偉達GB300 AI服務器訂單配置初定
英偉達GB300訂單配置初步敲定

英偉達推出GB200 NVL4平臺:整合了兩個GB200芯片

微軟Azure首獲英偉達GB200 AI服務器
英偉達Blackwell可支持10萬億參數(shù)模型AI訓練,實時大語言模型推理

英偉達Blackwell架構揭秘:下一個AI計算里程碑?# 英偉達# 英偉達Blackwell

評論