電子發(fā)燒友網(wǎng)綜合報(bào)道，SOCAMM即Space - Optimized CAMM（空間優(yōu)化內(nèi)存模組技術(shù)），是由英偉達(dá)主導(dǎo)研發(fā)的面向AI計(jì)算、HPC、數(shù)據(jù)中心等領(lǐng)域的高密度內(nèi)存解決方案。如今AI大模型參數(shù)規(guī)模達(dá)數(shù)百億甚至萬億級(jí)別，帶來巨大內(nèi)存需求，但HBM內(nèi)存價(jià)格高昂，只應(yīng)用在高端算力卡上。SOCAMM則有望應(yīng)用于AI服務(wù)器、高性能計(jì)算、AI PC以及其他如游戲、圖形設(shè)計(jì)、虛擬現(xiàn)實(shí)等領(lǐng)域。

SOCAMM利用高I/O密度和先進(jìn)封裝實(shí)現(xiàn)極高帶寬，有694個(gè)I/O端口，遠(yuǎn)超傳統(tǒng)內(nèi)存模塊（如DDR5的64 - 128個(gè)），采用3D封裝技術(shù)實(shí)現(xiàn)高密度互連，提供接近于HBM3的帶寬。接口基于LPDDR5X，理論帶寬可達(dá)6TB/s，已接近HBM3水平。

基于LPDDR5本身具備的低功耗特性，集成高效的電壓調(diào)節(jié)單元，可根據(jù)工作負(fù)載實(shí)時(shí)調(diào)整供電策略，盡可能降低能耗，能效水平相比HBM3甚至是GDDR6X更高。

另外，模塊體積接近成人中指大小，尺寸僅為行業(yè)標(biāo)準(zhǔn)DDR5 RDIMM的約1/3。可以推測其采用了chiplet設(shè)計(jì)和混合鍵合技術(shù)，將DRAM裸片與邏輯控制器集成在單一封裝內(nèi)。同時(shí)，它還采用可拆卸設(shè)計(jì)，便于用戶對(duì)內(nèi)存模塊進(jìn)行靈活升級(jí)和更換，解決了傳統(tǒng)板載內(nèi)存成本高昂、缺乏靈活性和不支持升級(jí)的問題。

目前，英偉達(dá)正在與三星、SK海力士、美光等存儲(chǔ)巨頭合作，推動(dòng)SOCAMM內(nèi)存標(biāo)準(zhǔn)的商業(yè)化落地。美光已在2025年3月表示SOCAMM解決方案已實(shí)現(xiàn)量產(chǎn)，其通過使用4顆16 - die堆疊的16Gb LPDDR5X顆粒，實(shí)現(xiàn)128GB容量，結(jié)合128 - bit位寬和8533MT/s速率，為更快的AI模型訓(xùn)練和更高的推理并發(fā)用戶量提供了關(guān)鍵支持。

SK海力士也在英偉達(dá)GTC大會(huì)上展示了SOCAMM，其單模塊容量128GB，由容量為32GB的4顆芯片組成，采用16顆16Gb LPDDR5X記憶體芯片封裝，并采用線鍵合工藝，數(shù)據(jù)傳輸帶寬為120GB/s。EBN報(bào)告指出，英偉達(dá)與內(nèi)存制造商正在交換SOCAMM原型進(jìn)行測試，并預(yù)計(jì)在2025年底開始大規(guī)模生產(chǎn)。

不過，近日韓媒表報(bào)道稱，英偉達(dá)已向內(nèi)存原廠通知SOCAMM這一新外形規(guī)格的內(nèi)存模組將不在GB300世代導(dǎo)入，需要等到Rubin時(shí)期才會(huì)商業(yè)化。

SOCAM是英偉達(dá) GB300 Superchip 原定的改進(jìn)型 Cordelia 主板設(shè)計(jì)的一部分。但由于GPU子板信號(hào)穩(wěn)定性、以及SOCAMM 的散熱可靠性等問題，英偉達(dá)最終決定在GB300主板設(shè)計(jì)上沿用成熟的 Bianca形式。

SOCAMM作為新一代內(nèi)存技術(shù)，需要與其他硬件和軟件系統(tǒng)保持良好的兼容性，以確保其能夠順利應(yīng)用于各種設(shè)備和場景中。同時(shí)，SOCAMM還需標(biāo)準(zhǔn)化，以確保不同廠商生產(chǎn)的SOCAMM模塊之間能夠互換使用，降低用戶的更換和升級(jí)成本。