1月22日報道,日前,AMD正式啟動第三代人工智能及高性能計算(HPC)加速器Instinct MI300X的批量生產,并首先向核心合作伙伴LaminaAI提供。借助MI300X的強大運算能力,LaminaAI將以滿足企業用戶的高端需求為目標,實現大語言模型(LLM)的高效運轉。
LaminaAI作為AMD的長期合作伙伴,能夠搶先體驗到全新MI300X加速器的強大優勢,實屬正常。該公司首席執行官Sharon Zhou在社交媒體進行了公告,同時透露,已經接收到配置8個Instinct MI300X加速器的設備,其中包括首批正在生產的AMD MI300X,以及即將推出的LaminaAI下一代LLM集群。
據悉,MI300X是AMD Instinct MI300系列中的旗艦型號,專為AI和HPC設計,相比前代產品,它采用了更少的x86 CPU內核,轉而搭載數量超過MI300A的304個CDNA 3計算單元,內存容量方面亦有顯著提升, 達到了驚人的192GB HBM3。在峰值帶寬方面,更可達到頂級的5.3 TB/s,性能遠超同行。
據AMD官方測試數據顯示,MI300X綜合表現出眾,超越 NVIDIA H100 80GB,且有望對H200 141GB構成競爭壓力。包括Meta和Microsoft在內的領先企業均大規模采購了AMD Instinct MI300系列新品,而LaminaAI則成為公開使用 MI300X的首家公司。
-
amd
+關注
關注
25文章
5555瀏覽量
135753 -
加速器
+關注
關注
2文章
823瀏覽量
38859 -
語言模型
+關注
關注
0文章
558瀏覽量
10643
發布評論請先 登錄
AMD最強AI芯片,性能強過英偉達H200,但市場仍不買賬,生態是最大短板?

AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
消息稱AMD Instinct MI400 AI加速器將配備8個計算芯片
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰
IBM與AMD攜手部署MI300X加速器,強化AI與HPC能力
IBM將在云平臺部署AMD加速器

評論