一、背景 本文中我們將具體介紹 Meta 對其萬卡 AI 集群穩定性的剖析和刻畫,以及在其中遇到的各....
SDNLAB 發表于 12-17 09:51
?1708次閱讀
當前,生成式AI模型的參數規模已躍升至數十億乃至數萬億之巨,遠遠超出了傳統CPU的處理范疇。在此背景....
SDNLAB 發表于 12-09 11:01
?3141次閱讀
什么是運營商以太網傳輸技術? 運營商以太網是指在局域網 (LAN) 之外使用以太網技術,特別是用于長....
SDNLAB 發表于 11-29 09:14
?804次閱讀
編者按 “算力調度”的概念,這幾年越來越多的被提及。剛聽到這個概念的時候,我腦海里一直拐不過彎。作為....
SDNLAB 發表于 11-27 17:13
?652次閱讀
?在交換機上,緩存就是數據交換的緩沖區,被交換機用來協調不同網絡設備之間的速度匹配問題,突發數據可以....
SDNLAB 發表于 11-14 16:53
?846次閱讀
? 去年以來,以ChatGPT為代表的大模型迅速紅遍全球,展現出變革經濟社會的巨大潛能。全球主流科技....
SDNLAB 發表于 11-13 10:05
?1020次閱讀
隨著大模型的廣泛流行,GPU集群計算的規模越來越大(單芯片算力提升有限,只能通過擴規模的方式來提升整....
SDNLAB 發表于 11-12 11:04
?845次閱讀
面對人工智能大模型的迅速發展及其對算力資源的急劇增長需求,單芯片性能提升遭遇瓶頸,同時通過Scale....
SDNLAB 發表于 11-09 10:03
?2162次閱讀
在過去的十年中,SDN (軟件定義網絡) 極大地提高了網絡的可編程性。SDN 理念的核心是將應用、控....
SDNLAB 發表于 11-06 10:10
?1112次閱讀
負載均衡(Load Balancing)是一種優化資源分配的技術,主要用于在網絡環境中分散工作負載,....
SDNLAB 發表于 10-25 16:20
?1124次閱讀
在眾多回復中,李博杰同學的回答被認為質量最高。他首先將緩存一致性分為兩個主要場景:一是主機內CPU與....
SDNLAB 發表于 10-24 17:00
?1283次閱讀
英偉達設計的DGX H100 NVL256超級計算集群,原本計劃集成256個NVIDIA H100 ....
SDNLAB 發表于 10-22 16:17
?718次閱讀
當前,生成式人工智能被認為是21世紀最重要的技術突破之一,其為人類社會帶來了工作范式的轉變,極大地提....
SDNLAB 發表于 10-22 16:07
?1022次閱讀
在本文中,Juniper技術專家兼高級工程總監Sharada Yeluri深入研究了 AI/ML 訓....
SDNLAB 發表于 10-22 16:04
?545次閱讀
近日我有幸閱讀了英特爾公司互聯系統領域的權威人物Debendra Das Sharma撰寫的一篇開創....
SDNLAB 發表于 09-03 09:14
?1074次閱讀
周四,英特爾、AMD、博通、思科、谷歌、HPE、Meta和微軟宣布正在建立一個新的行業組織——Ult....
SDNLAB 發表于 05-31 11:46
?2537次閱讀
DASH 在傳統 SONiC 管理的底層基礎設施之上建立了overlay服務。這種overlay服務....
SDNLAB 發表于 04-25 13:00
?1550次閱讀
最近Intel Gaudi-3的發布,基于RoCE的Scale-UP互聯,再加上Jim Keller....
SDNLAB 發表于 04-22 17:22
?4861次閱讀
在快速增長的人工智能 (AI) 和機器學習 (ML) 領域,數據中心對高性能計算 (HPC) 系統的....
SDNLAB 發表于 04-18 17:08
?1038次閱讀
HPC的低延遲需求來自于很多應用都會通過網格刨分來進行并行運算,然后網格間有復雜而頻繁的通信數據交互....
SDNLAB 發表于 04-16 16:59
?804次閱讀
AI網絡中的數據流就好像拉力賽道上飛馳的賽車,在賽道上高速前進。但是由于賽道的寬度有限,如果一條賽道....
SDNLAB 發表于 04-06 04:44
?1928次閱讀
隨著網絡芯片帶寬的持續提升,其內部數據包處理單元的工作負載也隨之增加。然而,如果處理單元無法與網絡接....
SDNLAB 發表于 04-02 16:36
?905次閱讀
人工智能的基礎設施在大語言模型訓練和推理過程中發揮了關鍵的作用。隨著大語言模型規模不斷增大,其對計算....
SDNLAB 發表于 03-27 17:24
?2305次閱讀
Cerebras 是一家位于美國加利福尼亞州的初創公司,2019 年進入硬件市場,其首款超大人工智能....
SDNLAB 發表于 03-14 17:11
?2582次閱讀
據IDC報告顯示,2023 年全球以太網交換機收入同比增長 20.1%,達到 442 億美元(約31....
SDNLAB 發表于 03-11 16:14
?3169次閱讀
因為字節跳動自研交換機,早在2019年,就開始悄悄布局了。
SDNLAB 發表于 02-26 15:34
?2022次閱讀
來自UCLouvain的Fran?ois Michel 和Olivier Bonaventure在研....
SDNLAB 發表于 02-20 17:07
?954次閱讀
2024年很有可能成為AI芯片的元年。
SDNLAB 發表于 01-24 16:26
?1235次閱讀
遠程直接內存訪問(Remote Direct Memory Access,RDMA)技術允許應用程序....
SDNLAB 發表于 01-23 17:23
?2671次閱讀
1月19日上午,國家市場監督管理總局公示了“華為技術有限公司與成都高新投資集團有限公司(以下簡稱“成....
SDNLAB 發表于 01-19 15:26
?1505次閱讀