Scale-up網絡是以推理的大顯存并行計算流量和訓練的張量并行(TP)以及專家并行(MoE)流量為主,來滿足在網計算的加速需求。據相關大模型廠商介紹,對Scale-up網絡規模的需求預計在未來2-3年還要擴大2到3倍以上。在MoE模型的驅動下,Scale-up的部署趨勢將超出單個服務器機架的范圍。
面對其對互聯性能的極致追求,目前業內主要采用專門設計的協議比如NVIDIA的NVlink及NVSwitch技術。然而,這些基于私有協議的技術不僅成本高昂,且不對外開放。為了打破這一局面,AI網絡產業鏈在近期共同發起了UALink 加速器互聯協議聯盟,旨在推動AI網絡Scale-up互聯的創新技術發展。
奇異摩爾榮幸宣布加入UALink(Ultra Accelerator Link ) 加速器間互聯協議聯盟,憑借其在互聯領域的豐富積累,為GPU卡間的高效互聯貢獻技術力量,攜手生態開啟AI網絡的新篇章。
關于UALink聯盟
Ultra Accelerator Link (UALink) 是一種高速、縱向擴展的加速器互聯技術,可提升下一代 AI 網絡的性能。UALink 1.0 規范將為 AI Pod 中多達 1024 個加速器的每通道擴展連接實現高達 200Gbps 的擴展連接。該規范于今年向 Contributor 成員開放,并在 2025 年第一季度供一般審查。
UALink主要特點
1通過行業標準協議在加速卡之間實現高效通信
2更靈活地擴大Pod中加速卡的數量
3優化當前和未來計算密集型工作負載所需的性能
4與Scale-out 相關標準兼容如UEC
UALink的開源性質鼓勵了AI網絡產業鏈的協同開發模式,摒棄專有系統不僅催生了創新,還加速了技術的廣泛采納與持續優化。 UALink的核心價值不止于作為NVLink的替代選項,它更在于為各類企業,無論是巨頭,還是中小型企業,如奇異摩爾般的Chiplet&互聯企業可以憑借在互聯領域的專長,為聯盟的互聯技術進步貢獻力量,并在這一開放體系中實現技術成果的最大化。
UALink如何在中國市場落地
作為國際互聯系統開發標準,UALink在落地過程中需要覆蓋多個產業環節,因此成員涵蓋了芯片制造商、交換機提供商、服務器提供商等整個產業鏈的關鍵角色。然而,由于AI大模型產業在國內具備本土特色,因此UALink如何在中國市順利落地,也面臨著挑戰。
為了打造一個原生支持AI場景的Scale-up開放生態系統,阿里云在今年9月倡議并牽頭成立了ALS(ALink System,加速器互連系統)開放生態系統,依托于ODCC(開放數據中心委員會),解決Scale-up互連系統的行業發展規范問題。ALS系統生態也是首個兼容UALink的國內生態標準體系。
奇異摩爾作為ALS系統的核心成員之一通過加入ALS與UALink互聯系統聯盟,有效融合國際標準與國內AI產業鏈生態,進一步推動產品應用的本土化實施與落地。
UEC與UALink并駕齊驅
AI網絡生態的建立正在逐步完善中;UEC超以太聯盟即將在2025年第一季度推出1.0標準版本,這與UALink的首個標準版本發布時間相近。這兩個聯盟雖然各自獨立,但成員之間存在著較高的重疊,這為行業內的技術融合和創新提供了良好的基礎。
這還意味著生態成員們在Scale-out互聯層面可以利用UEC標準成就北向網絡更大規模集群的擴展,在Scale-up互聯層面可以利用UALink來實現南向網絡更高效的GPU加速卡間通信。不謀而合的是,這些生態標準的基礎正是以太網。以太網擁有最成熟的生態無論是國際還是國內。
復用以太網生態,與產業鏈的上下游兼容適配是奇異摩爾正在踐行的。正如特斯拉使用了私有的TTPoE協議 ,在保持與標準以太網基礎設施兼容的同時實現了片內/片間/網間的統一互聯。 AI網絡的終點是三網融合,這一愿景的實現,依賴于行業內每一個參與者的共同努力。隨著技術標準的逐步成熟,AI網絡的新篇章正在緩緩揭開序幕。
關于我們
AI網絡全棧式互聯架構產品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業領先的AI網絡全棧式互聯產品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術,創新性地構建了統一互聯架構——Kiwi Fabric,專為超大規模AI計算平臺量身打造,以滿足其對高性能互聯的嚴苛需求。
我們的產品線豐富而全面,涵蓋了面向不同層次互聯需求的關鍵產品,如面向北向Scale out網絡的AI原生智能網卡、面向南向Scale up網絡的GPU片間互聯芯粒、以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產品共同構成了全鏈路互聯解決方案,為AI計算提供了堅實的支撐。
奇異摩爾的核心團隊匯聚了來自全球半導體行業巨頭如NXP、Intel、Broadcom等公司的精英,他們憑借豐富的AI互聯產品研發和管理經驗,致力于推動技術創新和業務發展。團隊擁有超過50個高性能網絡及Chiplet量產項目的經驗,為公司的產品和服務提供了強有力的技術保障。我們的使命是支持一個更具創造力的芯世界,愿景是讓計算變得簡單。奇異摩爾以創新為驅動力,技術探索新場景,生態構建新的半導體格局,為高性能AI計算奠定穩固的基石。
-
網絡
+關注
關注
14文章
7602瀏覽量
89336 -
AI
+關注
關注
87文章
31822瀏覽量
270588 -
加速器卡
+關注
關注
0文章
19瀏覽量
8788 -
奇異摩爾
+關注
關注
0文章
49瀏覽量
3484
原文標題:開啟AI網絡的新篇章 | 奇異摩爾加入UALink(Ultra Accelerator Link ) 加速器間互聯協議聯盟
文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
挑戰英偉達NVLink!英特爾/谷歌等成立聯盟,推出UALink 1.0
![挑戰英偉達NVLink!英特爾/谷歌等成立<b class='flag-5'>聯盟</b>,推出<b class='flag-5'>UALink</b> 1.0](https://file1.elecfans.com/web2/M00/EB/CF/wKgaomZbMf2AbqIeAApuBh3UpKM930.png)
蘋果加入UALink聯盟,共推AI加速器新標準
新思科技推出業界首款連接大規模AI加速器集群的超以太網和UALink IP 解決方案
奇異摩爾分享計算芯片Scale Up片間互聯新途徑
![<b class='flag-5'>奇異</b><b class='flag-5'>摩爾</b>分享計算芯片Scale Up片<b class='flag-5'>間</b><b class='flag-5'>互聯</b>新途徑](https://file1.elecfans.com/web3/M00/01/8C/wKgZO2dWSc-Af8HAAACQRD9jhPQ079.png)
![](https://file1.elecfans.com/web2/M00/0D/4B/wKgaomdFX46AbOHfAAWTPwQ3Wl0193.jpg)
回顧:奇異摩爾@ ISCAS 2024 :聚焦互聯技術與創新實踐
![回顧:<b class='flag-5'>奇異</b><b class='flag-5'>摩爾</b>@ ISCAS 2024 :聚焦<b class='flag-5'>互聯</b>技術與創新實踐](https://file1.elecfans.com/web2/M00/0A/E4/wKgZomcp886AJYBoAAAZOycJ-xc172.jpg)
潤欣科技與奇異摩爾簽署CoWoS-S封裝服務協議
智原科技與奇異摩爾2.5D封裝平臺量產
奇異摩爾賦能萬卡集群互聯
三星或將加入UALink聯盟,推動AI芯片互聯標準化
科技巨頭聯手成立UALink推廣組,挑戰英偉達
英特爾、AMD等聯手推出UALink,希望用它取代Nvidia NVLink接口
![英特爾、AMD等聯手推出<b class='flag-5'>UALink</b>,希望用它取代Nvidia NVLink接口](https://file1.elecfans.com/web2/M00/EB/7F/wKgaomZZSNuAU5aHAAApEC7lJAQ321.png)
八大科技巨頭攜手推進UALink,加速數據中心AI互聯
奇異摩爾攜手SEMiBAY Talk 邀您暢談互聯與計算
![<b class='flag-5'>奇異</b><b class='flag-5'>摩爾</b>攜手SEMiBAY Talk 邀您暢談<b class='flag-5'>互聯</b>與計算](https://file1.elecfans.com/web2/M00/E7/45/wKgZomZLJx6AM6CtAAAYMWWs7u0903.jpg)
評論