與“計算”有關(guān)的技術(shù)正在快速演進,而隨著AI PC的興起,人類與技術(shù)交互的方式正在發(fā)生深刻轉(zhuǎn)變。AI系統(tǒng)不僅帶來了更快的處理速度或更智能的算法,還從根本上改變了計算機管理和存儲數(shù)據(jù)的方式。
對 AI PC而言,數(shù)據(jù)存放的位置至關(guān)重要。AI PC中的先進存儲功能可確保不僅能夠高效存儲數(shù)據(jù),還能夠以更高的性能和安全性來訪問和使用數(shù)據(jù)。隨著AI時代對計算的要求日益提高,深入了解用戶數(shù)據(jù)的存放位置和方式,對于充分發(fā)揮高性能硬件的潛力十分關(guān)鍵。SSD已成為存儲PC數(shù)據(jù)的主要設(shè)備。借助高性能SSD,我們有望提升用戶在運行AI應用時的體驗。
當前,SSD無法辨別特定數(shù)據(jù)對用戶或系統(tǒng)的重要程度。這是一個重大的缺陷,因為隨著AI愈發(fā)重要,未來的系統(tǒng)需要優(yōu)先考慮AI應用使用的數(shù)據(jù)。AI應用通常涉及實時處理和決策,需要快速訪問與這些處理和決策過程最相關(guān)的數(shù)據(jù)。當前架構(gòu)通常使用LRU(最近最少使用)數(shù)據(jù)結(jié)構(gòu)優(yōu)化數(shù)據(jù)訪問,其弊端是對所有數(shù)據(jù)同等對待,可能導致效率低下,影響性能。
隨著端側(cè)AI技術(shù)重要性的日益提高,我們更需要優(yōu)先考慮AI和其他數(shù)據(jù)密集型應用所需的數(shù)據(jù)。為此,SSD 需要主機提供額外信息,來標記哪些數(shù)據(jù)(如AI數(shù)據(jù))最為重要,該功能稱為“主機輔助”。有了這些信息,SSD可將此類數(shù)據(jù)放在訪問速度更快的低延遲緩存中。我們所做的內(nèi)部測試表明,當使用主機輔助功能時,模型加載時間可縮短高達 80%。在測試中,端側(cè)AI與許多駐留在存儲系統(tǒng)中的小規(guī)模模型一起運行,并需要按需加載特定模型。
在測量SSD和主機輔助功能可實現(xiàn)的性能提升時,模型加載時間是一個重要指標。要從主機獲得協(xié)助信息,可以采用很多種不同的方法。美光與微軟合作推出了幾項增強功能,可幫助SSD了解不同數(shù)據(jù)的重要性。其中的一些方法還提升了SSD的可靠性。
時間戳功能為SSD提供了世界時間信息,SSD可使用這些信息進行時間比較。操作系統(tǒng)為SSD 提供了更多實際運行當中的時間信息。這些信息能夠幫助SSD更準確地跟蹤數(shù)據(jù)的新舊程度,從而提高可靠性。通過準確了解數(shù)據(jù)的新舊程度,SSD可以做出更明智的決策,確定優(yōu)先處理哪些數(shù)據(jù),并丟棄一些過時數(shù)據(jù)。利用時間戳信息,SSD可以更有效地管理內(nèi)部緩存,讓最近頻繁訪問的數(shù)據(jù)隨時可用,降低延遲,提高響應能力。時間戳信息還可幫助SSD識別過時數(shù)據(jù)或從未使用過的數(shù)據(jù),以便在垃圾收集時快速刪除這些數(shù)據(jù)。垃圾收集可釋放被占用的空間,從而保持出色的寫入速度。此外,利用時間戳信息,SSD可將數(shù)據(jù)均勻?qū)懭敫鞔鎯K中,從而延長SSD的使用壽命,并確保平穩(wěn)的寫入性能。
主機內(nèi)存緩沖區(qū)(HMB)功能使SSD能夠獨占式訪問系統(tǒng)DRAM中的部分空間,以滿足某些需要。增加HMB的大小可讓SSD擁有更多緩沖空間,用于存儲數(shù)據(jù)和數(shù)據(jù)屬性。利用該功能,SSD可構(gòu)建更大的FTL(閃存轉(zhuǎn)換層)表,從而實現(xiàn)更高效的數(shù)據(jù)映射,并降低SSD開銷。有了更大的緩沖區(qū),SSD可以更有效地緩存重要數(shù)據(jù),從而縮短訪問時間,提高性能。HMB功能利用系統(tǒng) DRAM的一部分作為緩存,可大幅縮短訪問數(shù)據(jù)的時間,加速讀寫操作。此外,更高效的數(shù)據(jù)傳輸還可提高系統(tǒng)性能。該緩沖區(qū)利用系統(tǒng)內(nèi)存的一部分創(chuàng)建,在提高性能的同時無需額外的成本和功耗。
主機系統(tǒng)可向SSD發(fā)送與讀寫命令相關(guān)的額外元數(shù)據(jù)。此類元數(shù)據(jù)也稱為數(shù)據(jù)提示,可為SSD 提供有關(guān)接下來將會如何使用目標數(shù)據(jù)的信息(例如,頻繁讀取)。SSD可以通過這些提示了解數(shù)據(jù)的使用模式,然后對數(shù)據(jù)進行優(yōu)先級排序,確保系統(tǒng)能夠更快訪問數(shù)據(jù)。元數(shù)據(jù)還可能包括預期壽命或訪問模式等提示。利用這些提示,SSD能夠更有效地管理數(shù)據(jù)的存放位置,減少寫入放大效應,提高整體性能。
2024年8月,微軟公司的Scott Lee在FMS峰會上宣布,微軟將在即將發(fā)布的Windows操作系統(tǒng)版本中集成這些增強功能。美光正在與微軟合作,持續(xù)優(yōu)化SSD的性能,以滿足未來應用的需求。
本文作者
Prasad Alluri
SBU 客戶端存儲副總裁兼總經(jīng)理
文末互動贏好禮
在本文中,我們共同見證了美光科技通過利用主機輔助功能優(yōu)化SSD性能,以卓越技術(shù)支撐未來AI應用的高需求。
-
PC
+關(guān)注
關(guān)注
9文章
2144瀏覽量
156112 -
AI
+關(guān)注
關(guān)注
88文章
34421瀏覽量
275793 -
存儲系統(tǒng)
+關(guān)注
關(guān)注
2文章
422瀏覽量
41268
原文標題:利用主機輔助功能優(yōu)化存儲系統(tǒng),滿足未來AI PC的需求
文章出處:【微信號:gh_195c6bf0b140,微信公眾號:Micron美光科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
科達KCloudStor云存儲系統(tǒng)與鯤鵬攜手推進原生開發(fā)技術(shù)創(chuàng)新
電腦云存儲系統(tǒng),電腦云存儲系統(tǒng)的教程,個人云電腦是什么以及怎么連接

如何配置 RAID 5 存儲系統(tǒng)
如何優(yōu)化emc存儲性能
emc企業(yè)級存儲系統(tǒng)的特點
美光高管:AI PC存儲遠超“基準要求”,兩大策略應對數(shù)據(jù)中心“存儲池”

美光高管看2024年AI數(shù)據(jù)中心、AI PC的存儲趨勢

評論