HBX-G500是一款為AI、計算和網(wǎng)絡(luò)領(lǐng)域設(shè)計的高性能可編程加速器卡。它配備了多通道的高帶寬存儲和高效能計算能力,以及先進(jìn)的高速接口解決方案,特別適用于運行大型模型。即便在小批量數(shù)據(jù)處理時,它的性能也能媲美A100和H100。
該加速器卡搭載了兩組PCIe GEN5接口,并配備了兩個400GbE和一個200Gbe網(wǎng)絡(luò)接口,以及32GB的GDDR6存儲單元。
它還具備一個包含超過80個節(jié)點的2DNOC網(wǎng)絡(luò)和2560個高度可配置的MLP計算核心,以支持密集型計算任務(wù)。2DNOC不僅連接了高速接口和存儲單元,而且還連接了Fabric的80個節(jié)點,使得用戶可以更專注于功能開發(fā)。總線路由問題可以簡單地通過NOC連接來解決。
板卡功能:
兩路PCIe Gen5 ,其中PCIe Gen5X16支持系統(tǒng)接口,PCIeGen5X4可同時支持RC/EP
兩路網(wǎng)口,速率可達(dá)400Gbe以及200Gbe,且支持向下速率兼容
32GBGDDR6,市面上為數(shù)不多的支持GDDR6的FPGA板卡,支持16通路訪問,內(nèi)存帶寬可達(dá)3.5Tbps
FPGA可支持達(dá)1500K LE
FPGA支持2560高性能計算核心(MLP)
每個MLP最大支持32個乘法器,可根據(jù)數(shù)據(jù)位寬的變化做調(diào)整
專屬內(nèi)嵌的LRAM/BRAM可緩存數(shù)據(jù)或者快速反饋結(jié)
支持整型(INT16/INT8/INT4)、浮點(FP24/FP16)、BFP
INT8總算力約61Tops
支持通用串行總線(USB)JTAG配置、PCIe加載
支持上電自加載,1GB QSPI閃存 板卡規(guī)格:
尺寸:高度:111.15mm 長度:275mm
工作電壓:外部兩路+12VDC
適用AI應(yīng)用的架構(gòu)特性:
2D NOC的高效路由架構(gòu)讓用戶可以集中精力于開發(fā):
它支持廣泛采用的AXI4標(biāo)準(zhǔn)接口。
NOC的工作頻率可達(dá)2Ghz,數(shù)據(jù)傳輸寬度為256位。
主機(jī)通過PCIe接口,可以直接通過NOC的黃色區(qū)域訪問16條通道的GDDR6存儲。
主機(jī)通過PCIe,同樣可以通過NOC的黃色區(qū)域直接訪問連接在NAP上的任意功能單元。
功能單元能夠通過NOC直接訪問存儲資源(GDDR6或DDR)。
不同功能單元之間可以通過NOC進(jìn)行高效互聯(lián)。
審核編輯:劉清
-
FPGA
+關(guān)注
關(guān)注
1642文章
21918瀏覽量
611933 -
JTAG
+關(guān)注
關(guān)注
6文章
403瀏覽量
72691 -
QSPI
+關(guān)注
關(guān)注
0文章
44瀏覽量
12507 -
PCIe接口
+關(guān)注
關(guān)注
0文章
121瀏覽量
9990 -
GDDR6
+關(guān)注
關(guān)注
0文章
52瀏覽量
11428
原文標(biāo)題:HPC領(lǐng)域的一款大殺器---HBX-G500大帶寬加速卡
文章出處:【微信號:傅里葉的貓,微信公眾號:傅里葉的貓】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
寒武紀(jì)基于思元370芯片的MLU370-X8 智能加速卡產(chǎn)品手冊詳解

S7t-VG6 VectorPath加速卡的特性和功能
PCIe加速卡在數(shù)據(jù)中心的應(yīng)用
AMD 以全球極快的纖薄尺寸電子交易加速卡擴(kuò)展 Alveo 產(chǎn)品組合,助力廣泛且具性價比的服務(wù)器部署

AMD 以全球極快的纖薄尺寸電子交易加速卡擴(kuò)展 Alveo 產(chǎn)品組合,助力廣泛且具性價比的服務(wù)器部署
AMD推出新款纖薄尺寸電子交易加速卡
比科奇助力推出首款全國產(chǎn)5G無線云網(wǎng)絡(luò)加速卡
大模型向邊端側(cè)部署,AI加速卡朝高算力、小體積發(fā)展
EPSON差分晶振SG3225VEN頻點312.5mhz應(yīng)用于AI加速卡
基于菲數(shù)科技FA728Q加速卡實現(xiàn)低時延LLT應(yīng)用

云天勵飛推出IPU-X6000加速卡,針對大模型推理任務(wù)設(shè)計
NVIDIA突破美國禁令,將在中東部署其高性能AI/HPC GPU加速卡
借助全新 AMD Alveo? V80 計算加速卡釋放計算能力

評論