除集中采購臺積電產能外，英偉達更斥巨額資金購買了HBM3內存。據消息人士指出，該公司已向美光和 SK海力士預先訂購高達韓元1兆至10兆的HBM3內存，雖尚無明確用途，但業界普遍推測旨在確保2024年前期HBM供應穩定。

另有業內專家透露，三星、SK海力士以及美光三家頭部存儲器供應商早已備戰明年的HBM產能，預計將呈現出急速上漲的趨勢。

據最新傳聞，英偉達正在籌劃發布兩款搭載HBM3E內存的新品——包括141GB HBM3E的H200 GPU及GH200超級芯片，這也進一步說明了對于HBM內存的大量需求。

H200堪稱全球最強大的AI芯片之一，且為全球首個采用HBM3e的GPU，基于NVIDIA Hopper架構設計，與H100相容，能達到4.8 TB/s的運行速度。

在AI領域，英偉達聲稱，HGT H200在Lima 2（含700億參數LLM）上的推理速度較H100成倍提升。這款HGT H200計劃以4路和8路模式提供服務，同時與H100系統中軟硬件完美兼容。已知它將適用于所有數據中心（包括本地、云、混合云及邊緣），并得到Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等多個平臺推廣，預計于2024年第二季度上市。