在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

900GB/s,NVLink才是英偉達的互聯(lián)殺手锏

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2022-03-25 07:03 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/周凱揚)英偉達在GTC22上發(fā)布了全新的GraceSuperchip,該芯片中用到了NVLink-C2C技術,而去年公開的GraceHopperSuperchip同樣用到了這一技術。根據(jù)英偉達超大規(guī)模計算部門副總裁IanBuck的說法,Chiplet和異構計算已經(jīng)成了解決摩爾定律緩慢進展的兩大有效手段。而NVLink-C2C這一面向die和chip的互聯(lián)技術,成了英偉達對愈發(fā)普及的Chiplet設計的回應。

Superchip的互聯(lián)


也許在不少人看來的印象中,提到NVLink會想到下圖這個橋接多個高端顯卡或專業(yè)顯卡的RTX NVLinkBridge,其實NVLink這一技術在服務器級別的GPU中反倒更為普遍。從P100的第一代NVLink,到V100的第二代NVLink,A100的第三代NVLink,最后再到如今H100的第四代NVLink。NVLink可以說是跟著GPU架構一路推陳出新了,如今享受第四代NVLink性能的成了Hopper架構的GPU。而在英偉達的SERDES和LINK技術發(fā)展下,NVLink也從PCB、MCM走向了硅中介層和晶圓,也因此有了NVLink-C2C。

RTX NVLinkBridge/ 英偉達


GraceSuperchip顯然用的是ARM NeoverseN2這一基于Armv9架構的設計,但從芯片圖可以看出,單個GraceSuperchip芯片由兩個GraceCPU組成,才讓總核心數(shù)達到了144。而這兩個CPU組成的方式,正是NVLink-C2C這一互聯(lián)技術。我們在開頭已經(jīng)提到,去年公開的GraceHopperSuperchip同樣使用了這一互聯(lián)技術,只不過當時單個GraceHopperSuperchip芯片中互聯(lián)的,是一個GraceCPU和一個HopperGPU。


NVLink-C2C為英偉達帶來的遠不止這樣一對一的互聯(lián)方案,而是一整套系統(tǒng)架構上的創(chuàng)新。在NVLink-C2C的支持下,英偉達可以選擇一個GraceCPU,兩個HopperGPU的設計,或是兩個2個GraceCPU+2個HopperGPU,甚至是2個GraceCPU+8個HopperGPU。可以看出,NVLink-C2C為Grace和Hopper在數(shù)據(jù)中心和HPC應用提供了極大的擴展性。

遠超PCIe5.0的性能

英偉達強調,NVLink-C2C具有前所未有的性能,比如處理器與加速器之間900GB/s的高帶寬數(shù)據(jù)傳輸,以及快速同步和高頻率更新下的超低延遲,以及在先進封裝英偉達芯片下,能效比可以做到PCIe5.0的25倍,面積效率更是達到90倍。

H100 SXM5 GPU / 英偉達


NVLink-C2C900GB/s的帶寬確實優(yōu)秀,也與第四代NVLink的性能一致,但這并不代表只要用上NVLink就能獲得,我們從Hopper架構的GPU H100的參數(shù)上也能窺見一二。要想獲得900GB/s的帶寬性能,必須用到SXM5的大功率卡,而不是PCIe5.0的卡,雖然前者的功耗是后者的兩倍,達到了可怕的700W,但PCIe5.0的H100在總體性能和帶寬上確實差SXM5一截。

兩者在PCIe5.0上的帶寬一致,都是128GB/s,但如果用上NVLink,PCIe5.0版本的H100只能達到600GB/s的帶寬,與第三代NVLink性能一致,只有SXM5版本下的NVLink才能達到滿血的900GB/s。


另外在第四代NVLink和第三代NVSwitch技術的組合下,英偉達推出了NVLinkSwitch這一方案,該系統(tǒng)最多支持到256個GPU,可實現(xiàn)57.6TB/s的總帶寬。NVLinkSwitch也是英偉達DGX H100 SuperPOD系統(tǒng)的關鍵技術,英偉達甚至把自己收購的Mellanox旗下的InfiniBand節(jié)點互聯(lián)技術拿來對比。從上圖可以看出與基于A100+InfiniBand的SuperPOD系統(tǒng)相比,基于H100+NVLinkSwitch的SuperPOD系統(tǒng)在對分帶寬上是前者的9倍。

開放而不是獨占


其實NVLink的存在最初讓不少人覺得有些一家獨大的意思,畢竟最早NVLink僅僅只是用于多個英偉達GPU之間的互聯(lián),僅僅只是為自家的產(chǎn)品提供更多優(yōu)勢而已。而去年發(fā)布的GraceHopperSuperchip同樣用到了這一技術,但這顆芯片卻是英偉達設計的ArmCPU和GPU的互聯(lián)。

這讓人不禁擔心,如果英偉達真的成功收購了Arm,會不會利用這一優(yōu)勢來全面壟斷數(shù)據(jù)中心和HPC市場。畢竟Arm自己給出的互聯(lián)方案CMN-700支持的是CCIX 2.0和CXL 2.0這兩大標準互聯(lián)協(xié)議,同時為第三方加速器提供PCIe5.0的連接。但就紙面參數(shù)給到的性能看來,NVLink這種專用方案似乎更加吃香一些。

不過Arm作為一家IP公司,目標自然是支持到多樣化的加速器,從而全面發(fā)展Arm的生態(tài)。此前Arm在接受電子發(fā)燒友網(wǎng)采訪時也表示,Arm期待給市場帶來更多的靈活性,支持更多像Grace這樣的系統(tǒng)。

NVLink-C2C示意圖 / 英偉達


好在英偉達似乎也不打算將NVLink-C2C獨占,而是宣布開放這一技術,支持集成英偉達技術的芯片半定制,通過Chiplet技術充分利用自家的GPU、DPU、NIC、CPU和SoC產(chǎn)品,與客戶的IP進行NVLink-C2C互聯(lián)。

盡管收購失敗,英偉達與Arm的合作并沒有就此停止,英偉達也在GTC22上宣布繼續(xù)與Arm緊密合作,以支持并在未來改進Arm的AMBA CHI協(xié)議,加上對CXL的支持,從而與更多加速器和處理器做到互聯(lián)。

與此同時,在全行業(yè)群策群力,試圖打通生態(tài)的情況下,英偉達也并不打算將NVLink-C2C作為唯一的可選方案。所以除了NVLink-C2C外,集成了英偉達芯片的定制SoC也可選用前段時日公布的UCIe通用Chiplet互聯(lián)標準,所以不必將數(shù)據(jù)中心上的CPU、DPU和GPU一整套都換成英偉達旗下的產(chǎn)品,給到第三方服務器芯片、DPU和加速器一個機會。不過,考慮到這兩種互聯(lián)方式只能選其一,英偉達也強調了NVLink-C2C經(jīng)過優(yōu)化,擁有更低的延遲、更高的帶寬和更高的能效比,該如何選擇還是看廠商自己的考量了。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    51891

    瀏覽量

    433212
  • 互聯(lián)技術

    關注

    0

    文章

    13

    瀏覽量

    8406
  • 英偉達
    +關注

    關注

    22

    文章

    3900

    瀏覽量

    92852
收藏 人收藏

    評論

    相關推薦

    挑戰(zhàn)英偉NVLink!英特爾/谷歌等成立聯(lián)盟,推出UALink 1.0

    ,UALink推廣組正在抓緊制定一項新的行業(yè)標準,用于推進數(shù)據(jù)中心內(nèi)連接的大規(guī)模AI系統(tǒng)的高速和低延遲通信,擺脫英偉NVLink在AI加速器連接方面的統(tǒng)治。 ? 對于這項新的行業(yè)標準,AMD數(shù)據(jù)中心
    的頭像 發(fā)表于 06-03 06:31 ?3135次閱讀
    挑戰(zhàn)<b class='flag-5'>英偉</b><b class='flag-5'>達</b><b class='flag-5'>NVLink</b>!英特爾/谷歌等成立聯(lián)盟,推出UALink 1.0

    英偉GB300 NVL72加速研發(fā),AOS成關鍵DrMOS供應商

    近日,英偉在高性能計算領域的研發(fā)步伐再次提速,其最新一代產(chǎn)品GB300 NVL72正加速推進。據(jù)天風證券分析師郭明錤于2月7日發(fā)布的博文透露,英偉
    的頭像 發(fā)表于 02-10 17:10 ?500次閱讀

    英偉推出GB200 NVL4芯片!液冷UQD快接頭崛起

    英偉GB200 NVL4高功耗芯片亮相,超算散熱革新加速。UQD快速接頭作為液冷關鍵部件,于變局中登場,迎來機遇曙光。 在 2024 年美國超級計算大會(SC24)這場備受全球關注的科技盛會
    的頭像 發(fā)表于 01-10 16:58 ?649次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>推出<b class='flag-5'>GB</b>200 NVL4芯片!液冷UQD快接頭崛起

    英偉GB300 AI服務器訂單配置初定

    近日,據(jù)業(yè)界消息透露,英偉已初步敲定了其下一代GB300 AI服務器產(chǎn)品線的訂單配置。預計英偉將在明年3月的GTC大會上正式揭曉這一全新
    的頭像 發(fā)表于 12-25 10:52 ?742次閱讀

    英偉GB300訂單配置初步敲定

    近日,據(jù)報道,英偉公司已經(jīng)初步確定了其下一代GB300 AI服務器產(chǎn)品線的訂單配置。預計英偉將在明年的3月GTC大會上正式揭曉這一全新產(chǎn)
    的頭像 發(fā)表于 12-24 10:09 ?725次閱讀

    英偉推出GB200 NVL4平臺:整合了兩個GB200芯片

    11月19日消息,人工智能(AI)芯片大廠英偉(NVIDIA)正式推出了兩個全新的AI解決方案硬件平臺,一個是BlackwellGB200NVL4,一個是HopperH200NVL。據(jù)介紹,英偉
    的頭像 發(fā)表于 11-21 01:06 ?589次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>推出<b class='flag-5'>GB</b>200 NVL4平臺:整合了兩個<b class='flag-5'>GB</b>200芯片

    微軟Azure首獲英偉GB200 AI服務器

    微軟Azure在社交平臺上宣布了一項重要進展,公司已經(jīng)成功獲得了搭載英偉最新GB200超級芯片的AI服務器。這一舉措使微軟Azure成為全球云服務供應商中首個采用英偉
    的頭像 發(fā)表于 10-10 17:01 ?819次閱讀

    英偉Blackwell可支持10萬億參數(shù)模型AI訓練,實時大語言模型推理

    NVLink交換機、Spectrum以太網(wǎng)交換機和Quantum InfiniBand交換機。 ? 英偉稱,Blackwell擁有6項革命性技術,可支持多達10萬億參數(shù)的模型進行AI訓練
    的頭像 發(fā)表于 09-04 09:10 ?3380次閱讀

    英偉Blackwell架構揭秘:下一個AI計算里程碑?# 英偉# 英偉Blackwell

    英偉行業(yè)資訊
    jf_02331860
    發(fā)布于 :2024年08月26日 10:58:09

    英偉TITAN AI顯卡曝光,性能狂超RTX 409063%!# 英偉# 顯卡

    顯卡英偉
    jf_02331860
    發(fā)布于 :2024年07月24日 17:18:28

    鴻海再獲AI領域大單,獨家供貨英偉GB200 NVLink交換器

    在人工智能(AI)領域的激烈競爭中,鴻海集團再次傳來捷報。繼成功獲得英偉(NVIDIA)GB200 AI服務器代工訂單的大份額后,鴻海又獨家攬獲了GB200關鍵元件——被譽為“提升算
    的頭像 發(fā)表于 06-19 15:04 ?1211次閱讀

    英偉GPU新品規(guī)劃與HBM市場展望

    在COMPUTEX 2024主題演講中,英偉(NVIDIA)公布了其GPU產(chǎn)品的未來規(guī)劃。據(jù)英偉透露,B100、B200和GB200系列
    的頭像 發(fā)表于 06-13 09:44 ?1095次閱讀

    消息稱英偉計劃將GB200提早導入面板級扇出型封裝

    為解決CoWoS先進封裝產(chǎn)能緊張的問題,英偉正計劃將其GB200產(chǎn)品提前導入扇出面板級封裝(FOPLP)技術,原計劃2026年的部署現(xiàn)提前至2025年。
    的頭像 發(fā)表于 05-22 11:40 ?1631次閱讀

    進一步解讀英偉 Blackwell 架構、NVlinkGB200 超級芯片

    200 NVL72的核心,通過NVLink C2C接口連接,提供900GB/s的雙向帶寬。該設計簡化編程過程,支持更大內(nèi)存需求的萬億參數(shù)LLM、變壓器模型和大規(guī)模模擬模型。GB200計
    發(fā)表于 05-13 17:16
    主站蜘蛛池模板: 国产精选经典三级小泽玛利亚 | 色中色资源 | 2021最新久久久视精品爱 | free性乌克兰高清videos | 999精品国产 | 日韩一卡2卡三卡4卡无卡网站 | 天天做天天添天天谢 | 午夜在线播放视频 | 轻点灬大ji巴太粗太长了h | 天堂网在线www资源网 | 天天色资料 | aaaa黄色片 | 欧美性受一区二区三区 | 天天弄天天干 | 国产美女被艹 | 久久亚洲国产精品五月天 | 全是肉的高h短篇列车 | 欧美三级久久 | 亚洲狠狠网站色噜噜 | 久久国产伦三级理电影 | 精品成人 | 国产午夜精品久久久久免费视 | 欧美瑟瑟 | 欧美色老太婆 | 超级碰碰青草免费视频92 | 人人干人人上 | 色天使在线观看 | 久久精品国产福利国产琪琪 | 免费一级特黄特色大片 | 最好看的最新中文字幕2018免费视频 | 又黄又粗暴的120秒免费gif视频 | 国产三级日本三级美三级 | 男人天堂网www | 99国产国人青青视频在线观看 | 资源新版在线天堂 | 又黄又爽的成人免费网站 | 欧美又粗又硬又大久久久 | 免费网站日本永久免费观看 | 久久99色| 欧美高清xx | 丁香六月纪婷婷激情综合 |