電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)CXL即Compute Express Link,是一種全新的互連協(xié)議,為各種處理器包括CPU、GPU、FPGA、加速器和存儲設(shè)備提供統(tǒng)一接口標(biāo)準(zhǔn),可以有效解決內(nèi)存墻和IO墻的瓶頸。它通過PCI Express的物理層,提供低延遲和高帶寬的連接,旨在支持下一代數(shù)據(jù)中心的高性能計(jì)算和內(nèi)存密集型工作負(fù)載。
CXL主要有CXL.io、CXL.cache和CXL.memory三個(gè)子協(xié)議,分別處理I/O、緩存一致性和內(nèi)存訪問。PCIe物理層為CXL高效的數(shù)據(jù)傳輸提供技術(shù)底座,CXL.cache和CXL.memory子協(xié)議協(xié)調(diào)處理單元的內(nèi)存一致性,內(nèi)存池化和熱插拔使得數(shù)據(jù)中心可以更靈活地分配和管理內(nèi)存資源。
2019年至今,CXL已經(jīng)發(fā)表了1.0/1.1、2.0、3.0/3.1五個(gè)不同的版本,主要針對內(nèi)存池化、內(nèi)存熱插拔、內(nèi)存共享和訪問、以及互連通信能力等進(jìn)行增強(qiáng)優(yōu)化。CXL可擴(kuò)展內(nèi)存技術(shù)發(fā)展到3.1階段,CXL 3.1是對CXL 3.0版本的漸進(jìn)性的更新,新規(guī)范對橫向擴(kuò)展 CXL 進(jìn)行了額外的結(jié)構(gòu)改進(jìn)、新的可信執(zhí)行環(huán)境 ehnahcments 以及對內(nèi)存擴(kuò)展器的改進(jìn)。
面對AI大模型對數(shù)據(jù)處理速度和響應(yīng)時(shí)間的要求不斷增長,在處理器、存儲芯片、控制器、模組等廠商的推動(dòng)下,CXL加速發(fā)展進(jìn)程。
利用CXL內(nèi)存擴(kuò)展將DDR4 DIMMs“變廢為寶”
今年7月Marvell 宣布推出其突破性的Structura CXL產(chǎn)品系列。該系列是業(yè)界首款支持四個(gè)內(nèi)存通道、集成內(nèi)嵌壓縮并采用 5 納米制造工藝的產(chǎn)品。包括Structera A CXL 近內(nèi)存加速器,和 Structera X CXL 內(nèi)存擴(kuò)展控制器。前者是一類新型設(shè)備,它們集成了服務(wù)器級處理器核心和多個(gè)內(nèi)存通道,以應(yīng)對高帶寬內(nèi)存應(yīng)用,例如深度學(xué)習(xí)推薦模型 (DLRM) 和機(jī)器學(xué)習(xí)。Structera X CXL 內(nèi)存擴(kuò)展控制器可以為通用服務(wù)器添加數(shù)TB的超大容量內(nèi)存,應(yīng)對高容量內(nèi)存應(yīng)用的需要,例如內(nèi)存數(shù)據(jù)庫。
CXL主要有CXL.io、CXL.cache和CXL.memory三個(gè)子協(xié)議,分別處理I/O、緩存一致性和內(nèi)存訪問。PCIe物理層為CXL高效的數(shù)據(jù)傳輸提供技術(shù)底座,CXL.cache和CXL.memory子協(xié)議協(xié)調(diào)處理單元的內(nèi)存一致性,內(nèi)存池化和熱插拔使得數(shù)據(jù)中心可以更靈活地分配和管理內(nèi)存資源。
2019年至今,CXL已經(jīng)發(fā)表了1.0/1.1、2.0、3.0/3.1五個(gè)不同的版本,主要針對內(nèi)存池化、內(nèi)存熱插拔、內(nèi)存共享和訪問、以及互連通信能力等進(jìn)行增強(qiáng)優(yōu)化。CXL可擴(kuò)展內(nèi)存技術(shù)發(fā)展到3.1階段,CXL 3.1是對CXL 3.0版本的漸進(jìn)性的更新,新規(guī)范對橫向擴(kuò)展 CXL 進(jìn)行了額外的結(jié)構(gòu)改進(jìn)、新的可信執(zhí)行環(huán)境 ehnahcments 以及對內(nèi)存擴(kuò)展器的改進(jìn)。
面對AI大模型對數(shù)據(jù)處理速度和響應(yīng)時(shí)間的要求不斷增長,在處理器、存儲芯片、控制器、模組等廠商的推動(dòng)下,CXL加速發(fā)展進(jìn)程。
利用CXL內(nèi)存擴(kuò)展將DDR4 DIMMs“變廢為寶”
今年7月Marvell 宣布推出其突破性的Structura CXL產(chǎn)品系列。該系列是業(yè)界首款支持四個(gè)內(nèi)存通道、集成內(nèi)嵌壓縮并采用 5 納米制造工藝的產(chǎn)品。包括Structera A CXL 近內(nèi)存加速器,和 Structera X CXL 內(nèi)存擴(kuò)展控制器。前者是一類新型設(shè)備,它們集成了服務(wù)器級處理器核心和多個(gè)內(nèi)存通道,以應(yīng)對高帶寬內(nèi)存應(yīng)用,例如深度學(xué)習(xí)推薦模型 (DLRM) 和機(jī)器學(xué)習(xí)。Structera X CXL 內(nèi)存擴(kuò)展控制器可以為通用服務(wù)器添加數(shù)TB的超大容量內(nèi)存,應(yīng)對高容量內(nèi)存應(yīng)用的需要,例如內(nèi)存數(shù)據(jù)庫。

Structera A 加速器集成了 16 個(gè) Arm Neoverse V2 核心,優(yōu)化了高內(nèi)存帶寬應(yīng)用的性能,例如 DLRM和ML/AI任務(wù)。DLRM 同時(shí)具有稀疏和密集內(nèi)存操作的特點(diǎn)。稀疏操作可能會(huì)遇到內(nèi)存墻困境,即內(nèi)存帶寬不足以滿足可用計(jì)算的需求。Structera A 2504 加速器是該系列的第一個(gè)產(chǎn)品,支持高達(dá) 200 GB/sec內(nèi)存帶寬和 4TB 的內(nèi)存容量。
隨著服務(wù)器的世代更替,預(yù)計(jì)在未來幾年內(nèi),數(shù)百萬個(gè)仍然具備使用功能的 DDR4 DIMMs 將成為電子廢棄物,因?yàn)榇蟛糠挚蛻糸_始使用具備 DDR5 內(nèi)存模塊的新服務(wù)器替換現(xiàn)有的服務(wù)器。而The Structera X 2404 使客戶可以從退役的通用服務(wù)器中回收他們的 DDR4 DIMMs。
Marvell 表示,使用這些DDR4 DIMMs 來擴(kuò)展這些服務(wù)器的內(nèi)存容量可以降低每臺通用服務(wù)器數(shù)千美元的資本支出。對退役的 DDR4 DIMMs 進(jìn)行再利用還有助于實(shí)現(xiàn)數(shù)據(jù)中心的綠色可持續(xù)性目標(biāo)。
Structera X 2404通過先進(jìn)的CXL技術(shù)不僅重新利用DDR4內(nèi)存條,還可幫助服務(wù)器制造商、數(shù)據(jù)中心運(yùn)營們減少對更先進(jìn)內(nèi)存的依賴,既能降低采購成本又可擴(kuò)充內(nèi)存容量。DDR4內(nèi)存再利用,也能夠在一定程度上緩解當(dāng)前DDR5內(nèi)存供不應(yīng)求的形勢。
CXL內(nèi)存模組陸續(xù)量產(chǎn),有望下半年開始爆發(fā)
三星電子存儲部門新業(yè)務(wù)規(guī)劃團(tuán)隊(duì)董事總經(jīng)理 Choi Jang-seok近日表示,CXL市場預(yù)計(jì)將在今年下半年蓬勃發(fā)展,到2028年CXL市場將迅速增長,CXL將成為存儲器行業(yè)的主流。
早在2021年5月,三星電子開發(fā)出全球首款基于CXL的DRAM技術(shù);2022年推出業(yè)界首款基于CXL 1.1的512GB CXL DRAM;2023年5月開發(fā)出支持CXL 2.0的128GB CXL DRAM;今年第二季度推出支持CXL 2.0的256GB CMM-D產(chǎn)品,計(jì)劃今年年底之前批量生產(chǎn)。
今年3月,三星電子透露正研發(fā) CMM-H 混合存儲 CXL模組。該模組同時(shí)包含DRAM 內(nèi)存和 NAND 閃存。原型 CMM-H 將配備基于 FPGA 的 CXL 1.1 控制器,采用 E3.L 2T 規(guī)格,最大容量 4TB,最大帶寬 8GB/s。另外,三星第一代CMM-D搭載支持CXL2.0的SoC的,計(jì)劃在2025年發(fā)布搭載第二代控制器、容量為128GB的新產(chǎn)品。
對AI服務(wù)器至關(guān)重要的技術(shù)是CXL,它能有效提升系統(tǒng)帶寬和處理能力。SK海力士通過CXL Memory Module-DDR5 4(CMM-DDR5)充分展示了CXL產(chǎn)品的強(qiáng)大優(yōu)勢。與僅采用DDR5的系統(tǒng)相比,它能給系統(tǒng)帶寬和容量帶來極為顯著的提升。
去年8月,美光宣布推出CZ120內(nèi)存擴(kuò)展模塊,基于CXL2.0Type3標(biāo)準(zhǔn),采用最新的PCIe5.0x8接口,并且外形符合E3.S2T規(guī)格。CZ120內(nèi)存擴(kuò)展模塊內(nèi)部搭載了Microchip的SMC2000微控制器,并使用了1α工藝節(jié)點(diǎn)生產(chǎn)的DRAM芯片。提供128GB和256GB兩種容量選擇。CZ120內(nèi)存擴(kuò)展模塊具備出色的帶寬性能,可以提供高達(dá)36GB/s的帶寬。在特定的工作負(fù)載中,如數(shù)據(jù)庫軟件,CZ120內(nèi)存擴(kuò)展模塊的優(yōu)勢更加明顯。

另外,國內(nèi)廠商方面,今年江波龍展出一款基于Compute?Express?Link?(CXL)技術(shù)的創(chuàng)新內(nèi)存擴(kuò)展設(shè)備——CXL?2.0?AIC內(nèi)存擴(kuò)展卡。這款擴(kuò)展卡采用非DRAM?on-board封裝設(shè)計(jì),可兼容多種容量和規(guī)格的直插式內(nèi)存條。它不僅支持CXL1.1標(biāo)準(zhǔn),實(shí)現(xiàn)單個(gè)計(jì)算節(jié)點(diǎn)服務(wù)器線纜直連的直插式內(nèi)存條擴(kuò)展,還兼容CXL2.0標(biāo)準(zhǔn),支持多個(gè)計(jì)算節(jié)點(diǎn)服務(wù)器集群與存儲池線纜直連的直插式內(nèi)存池化,從而滿足多樣化的應(yīng)用場景需求。
小結(jié):
Yole統(tǒng)計(jì)顯示,全球CXL市場預(yù)計(jì)從2022年的170萬美元增長2028年的150億美元。處理器方面英特爾發(fā)布全新的至強(qiáng)6700E系列處理器,提供了對CXL 2.0技術(shù)的支持。CXL 2.0卻新增了一系列面向安全、合規(guī)、高可靠方面的特性,更適合應(yīng)用在數(shù)據(jù)中心。三星支持CXL 2.0的256GB CMM-D產(chǎn)品也將于今年底前量產(chǎn)。同時(shí),各大廠商都在研發(fā)支持CXL3.0的處理器、CXL DRAM等產(chǎn)品,從而將內(nèi)存擴(kuò)展內(nèi)存技術(shù)的更多特性帶入數(shù)據(jù)中心,加速CXL的應(yīng)用,畢竟AI對于存儲的需求已時(shí)不我待。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
存儲
+關(guān)注
關(guān)注
13文章
4519瀏覽量
87268 -
內(nèi)存
+關(guān)注
關(guān)注
8文章
3117瀏覽量
75128 -
2cxl
+關(guān)注
關(guān)注
0文章
5瀏覽量
6473
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
拋棄8GB內(nèi)存,端側(cè)AI大模型加速內(nèi)存升級
電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)端側(cè)AI大模型的到來在存儲市場產(chǎn)生了最直接的反應(yīng)。年初在我們對旗艦智能手機(jī)的存儲容量統(tǒng)計(jì)中,16GB內(nèi)存+512GB存

第二代AMD Versal Premium系列SoC滿足各種CXL應(yīng)用需求
。無論您是高級自適應(yīng) SoC 開發(fā)人員,還是 CXL 初學(xué)者,第二代 Versal Premium 系列都能提供靈活的 CXL 3.1 子系統(tǒng),非常適合內(nèi)存擴(kuò)展、

Arm Neoverse CMN S3 推動(dòng)Compute Express Link (CXL) 存儲創(chuàng)新
高性能、可擴(kuò)展且高效的解決方案。Arm Neoverse CMN S3 能夠無縫管理一致性通信和內(nèi)存共享,是適合現(xiàn)代存儲架構(gòu)的變革性解決方案,其專為支持 Compute Express Link
發(fā)表于 04-09 18:19
?490次閱讀

華為加速AI時(shí)代數(shù)據(jù)存儲產(chǎn)業(yè)發(fā)展
近日,在華為中國合作伙伴大會(huì)2025上,華為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰發(fā)表“共筑數(shù)智解決方案,共享數(shù)據(jù)存儲產(chǎn)業(yè)大發(fā)展”主題演講,深入探討如何加速AI
英偉達(dá)GTC2025亮點(diǎn):NVIDIA認(rèn)證計(jì)劃擴(kuò)展至企業(yè)存儲領(lǐng)域,加速AI工廠部署
全新的存儲認(rèn)證和參考架構(gòu)讓企業(yè) IT 部門能更輕松地選擇和部署 AI 基礎(chǔ)設(shè)施,實(shí)現(xiàn)最優(yōu)的性能和能效。 AI 部署的成功依靠速度、數(shù)據(jù)和規(guī)模。因此,NVIDIA 正在擴(kuò)展 NVIDIA
新思科技解讀CXL 3.1標(biāo)準(zhǔn)
Compute Express Link(CXL)于2019年首次發(fā)布,是處理器與AI加速器、內(nèi)存緩沖區(qū)、智能網(wǎng)絡(luò)接口卡、持久性存儲器和固態(tài)

SMART Modular CXL AIC內(nèi)存擴(kuò)充卡獲CXL聯(lián)盟認(rèn)證
近日,全球領(lǐng)先的整合型內(nèi)存與儲存解決方案提供商SMART Modular世邁科技(隸屬于Penguin Solutions?集團(tuán))宣布,其4-DIMM和8-DIMM CXL?(Compute
SMART Modular世邁科技CXL內(nèi)存擴(kuò)充卡獲CXL聯(lián)盟認(rèn)證
SMART Modular世邁科技近日宣布其4-DIMM和8-DIMM CXL?(Compute Express Link?)內(nèi)存擴(kuò)充卡已成功通過CXL 2.0認(rèn)證測試,并正式被列入CXL
瀾起科技CXL?內(nèi)存擴(kuò)展控制器芯片通過CXL 2.0合規(guī)性測試
近日,瀾起科技在CXL(Compute Express Link)技術(shù)領(lǐng)域取得了又一重要里程碑。其自主研發(fā)的CXL?內(nèi)存擴(kuò)展控制器(MXC)芯片成功通過了
瀾起科技MXC芯片列入首批CXL 2.0合規(guī)供應(yīng)商清單
近日,瀾起科技研發(fā)的CXL內(nèi)存擴(kuò)展控制器(MXC)芯片成功通過了CXL 2.0合規(guī)性測試,列入CXL聯(lián)盟公布的首批

EE-32:語言擴(kuò)展:內(nèi)存存儲類型、ASM和內(nèi)聯(lián)構(gòu)造
電子發(fā)燒友網(wǎng)站提供《EE-32:語言擴(kuò)展:內(nèi)存存儲類型、ASM和內(nèi)聯(lián)構(gòu)造.pdf》資料免費(fèi)下載
發(fā)表于 01-14 15:03
?0次下載

韓國無晶圓廠初創(chuàng)公司Panmnesia展示第一個(gè)支持CXL的AI集群
CXL的AI集群,以加速用于ChatGPT等服務(wù)的下一代人工智能應(yīng)用RAG,擴(kuò)大其全球客戶群。 AI競爭的加劇
拓展AI數(shù)據(jù)中心內(nèi)存,第二代AMD Versal Premium系列自適應(yīng)SoC,首發(fā)支持CXL 3.1、 PCIe Gen6
電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)在數(shù)據(jù)中心市場,DDR5和CXL內(nèi)存正在成為廣泛采用的主流趨勢。預(yù)計(jì)2024年到2029年CXL內(nèi)存的采用將達(dá)到212%的年復(fù)合增長率。如今,現(xiàn)有出貨的半

新思科技CXL 3.1驗(yàn)證解決方案
器、內(nèi)存緩沖區(qū)、智能網(wǎng)絡(luò)接口卡、持久存儲器和固態(tài)驅(qū)動(dòng)器等設(shè)備之間的開放式行業(yè)標(biāo)準(zhǔn)互連接口。CXL基于PCIe靈活的數(shù)據(jù)帶寬提供了緩存一致性和存儲語義,同時(shí)實(shí)現(xiàn)比PCIe低得多的延時(shí)。

國數(shù)集聯(lián)發(fā)布業(yè)界首款CXL多級網(wǎng)絡(luò)交換機(jī),IB時(shí)代的顛覆者
、高性能并行計(jì)算、AI加速、邊緣計(jì)算,以及分布式存儲等多個(gè)場景。 國數(shù)集聯(lián)CXL多級網(wǎng)絡(luò)交換機(jī)(CMNS) 隨著AI大模型和高性

評論