MI300X是一款與NVIDIA旗艦顯卡H100相媲美的產品。它擁有8個XCD核心,304組CU單元和8組HBM3核心。顯存容量達到了192GB,相當于NVIDIA H100的2.4倍。同時,HBM內存帶寬高達5.2TB/s,Infinity Fabric總線帶寬也達到了896GB/s,遠超NVIDIA H100。
MI300X在性能和容量方面達到了前所未有的水平,特別適合進行AI計算。一張顯卡就能支持400億參數的大型模型。
據悉,MI300X的HBM密度是英偉達H100的2.4倍,帶寬則是H100的1.6倍。這使得MI300X在具體應用效果上表現出色。它可以支持400億參數的Hugging Face AI模型,單塊MI300X能夠支持高達800億參數規模的模型。
MI300X的硬件能力與市場上的英偉達產品相當。它擁有高達192GB的內存,超過了英偉達競爭對手H100所支持的120GB內存。這意味著MI300X可以承載比其他芯片更大規模的AI模型。
據AMD公司表示,MI300X將在第三季度逐步推出,并在第四季度開始大規模生產,屆時將配備192GB內存。
MI300X的問世將為市場帶來更多選擇,并提供強大的硬件能力,以滿足不斷增長的AI計算需求。除此之外,MI300A已經開始向客戶銷售。
編輯:黃飛
-
amd
+關注
關注
25文章
5539瀏覽量
135610 -
NVIDIA
+關注
關注
14文章
5188瀏覽量
105434 -
HBM
+關注
關注
1文章
401瀏覽量
15050
發布評論請先 登錄
相關推薦
AMD最強AI芯片,性能強過英偉達H200,但市場仍不買賬,生態是最大短板?

AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
消息稱AMD Instinct MI400 AI加速器將配備8個計算芯片
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰
IBM與AMD攜手部署MI300X加速器,強化AI與HPC能力
IBM將在云平臺部署AMD加速器

評論