與“計(jì)算”有關(guān)的技術(shù)正在快速演進(jìn),而隨著AI PC的興起,人類與技術(shù)交互的方式正在發(fā)生深刻轉(zhuǎn)變。AI系統(tǒng)不僅帶來(lái)了更快的處理速度或更智能的算法,還從根本上改變了計(jì)算機(jī)管理和存儲(chǔ)數(shù)據(jù)的方式。
對(duì) AI PC而言,數(shù)據(jù)存放的位置至關(guān)重要。AI PC中的先進(jìn)存儲(chǔ)功能可確保不僅能夠高效存儲(chǔ)數(shù)據(jù),還能夠以更高的性能和安全性來(lái)訪問(wèn)和使用數(shù)據(jù)。隨著AI時(shí)代對(duì)計(jì)算的要求日益提高,深入了解用戶數(shù)據(jù)的存放位置和方式,對(duì)于充分發(fā)揮高性能硬件的潛力十分關(guān)鍵。SSD已成為存儲(chǔ)PC數(shù)據(jù)的主要設(shè)備。借助高性能SSD,我們有望提升用戶在運(yùn)行AI應(yīng)用時(shí)的體驗(yàn)。
當(dāng)前,SSD無(wú)法辨別特定數(shù)據(jù)對(duì)用戶或系統(tǒng)的重要程度。這是一個(gè)重大的缺陷,因?yàn)殡S著AI愈發(fā)重要,未來(lái)的系統(tǒng)需要優(yōu)先考慮AI應(yīng)用使用的數(shù)據(jù)。AI應(yīng)用通常涉及實(shí)時(shí)處理和決策,需要快速訪問(wèn)與這些處理和決策過(guò)程最相關(guān)的數(shù)據(jù)。當(dāng)前架構(gòu)通常使用LRU(最近最少使用)數(shù)據(jù)結(jié)構(gòu)優(yōu)化數(shù)據(jù)訪問(wèn),其弊端是對(duì)所有數(shù)據(jù)同等對(duì)待,可能導(dǎo)致效率低下,影響性能。
隨著端側(cè)AI技術(shù)重要性的日益提高,我們更需要優(yōu)先考慮AI和其他數(shù)據(jù)密集型應(yīng)用所需的數(shù)據(jù)。為此,SSD 需要主機(jī)提供額外信息,來(lái)標(biāo)記哪些數(shù)據(jù)(如AI數(shù)據(jù))最為重要,該功能稱為“主機(jī)輔助”。有了這些信息,SSD可將此類數(shù)據(jù)放在訪問(wèn)速度更快的低延遲緩存中。我們所做的內(nèi)部測(cè)試表明,當(dāng)使用主機(jī)輔助功能時(shí),模型加載時(shí)間可縮短高達(dá) 80%。在測(cè)試中,端側(cè)AI與許多駐留在存儲(chǔ)系統(tǒng)中的小規(guī)模模型一起運(yùn)行,并需要按需加載特定模型。
在測(cè)量SSD和主機(jī)輔助功能可實(shí)現(xiàn)的性能提升時(shí),模型加載時(shí)間是一個(gè)重要指標(biāo)。要從主機(jī)獲得協(xié)助信息,可以采用很多種不同的方法。美光與微軟合作推出了幾項(xiàng)增強(qiáng)功能,可幫助SSD了解不同數(shù)據(jù)的重要性。其中的一些方法還提升了SSD的可靠性。
時(shí)間戳功能為SSD提供了世界時(shí)間信息,SSD可使用這些信息進(jìn)行時(shí)間比較。操作系統(tǒng)為SSD 提供了更多實(shí)際運(yùn)行當(dāng)中的時(shí)間信息。這些信息能夠幫助SSD更準(zhǔn)確地跟蹤數(shù)據(jù)的新舊程度,從而提高可靠性。通過(guò)準(zhǔn)確了解數(shù)據(jù)的新舊程度,SSD可以做出更明智的決策,確定優(yōu)先處理哪些數(shù)據(jù),并丟棄一些過(guò)時(shí)數(shù)據(jù)。利用時(shí)間戳信息,SSD可以更有效地管理內(nèi)部緩存,讓最近頻繁訪問(wèn)的數(shù)據(jù)隨時(shí)可用,降低延遲,提高響應(yīng)能力。時(shí)間戳信息還可幫助SSD識(shí)別過(guò)時(shí)數(shù)據(jù)或從未使用過(guò)的數(shù)據(jù),以便在垃圾收集時(shí)快速刪除這些數(shù)據(jù)。垃圾收集可釋放被占用的空間,從而保持出色的寫(xiě)入速度。此外,利用時(shí)間戳信息,SSD可將數(shù)據(jù)均勻?qū)懭敫鞔鎯?chǔ)塊中,從而延長(zhǎng)SSD的使用壽命,并確保平穩(wěn)的寫(xiě)入性能。
主機(jī)內(nèi)存緩沖區(qū)(HMB)功能使SSD能夠獨(dú)占式訪問(wèn)系統(tǒng)DRAM中的部分空間,以滿足某些需要。增加HMB的大小可讓SSD擁有更多緩沖空間,用于存儲(chǔ)數(shù)據(jù)和數(shù)據(jù)屬性。利用該功能,SSD可構(gòu)建更大的FTL(閃存轉(zhuǎn)換層)表,從而實(shí)現(xiàn)更高效的數(shù)據(jù)映射,并降低SSD開(kāi)銷。有了更大的緩沖區(qū),SSD可以更有效地緩存重要數(shù)據(jù),從而縮短訪問(wèn)時(shí)間,提高性能。HMB功能利用系統(tǒng) DRAM的一部分作為緩存,可大幅縮短訪問(wèn)數(shù)據(jù)的時(shí)間,加速讀寫(xiě)操作。此外,更高效的數(shù)據(jù)傳輸還可提高系統(tǒng)性能。該緩沖區(qū)利用系統(tǒng)內(nèi)存的一部分創(chuàng)建,在提高性能的同時(shí)無(wú)需額外的成本和功耗。
主機(jī)系統(tǒng)可向SSD發(fā)送與讀寫(xiě)命令相關(guān)的額外元數(shù)據(jù)。此類元數(shù)據(jù)也稱為數(shù)據(jù)提示,可為SSD 提供有關(guān)接下來(lái)將會(huì)如何使用目標(biāo)數(shù)據(jù)的信息(例如,頻繁讀取)。SSD可以通過(guò)這些提示了解數(shù)據(jù)的使用模式,然后對(duì)數(shù)據(jù)進(jìn)行優(yōu)先級(jí)排序,確保系統(tǒng)能夠更快訪問(wèn)數(shù)據(jù)。元數(shù)據(jù)還可能包括預(yù)期壽命或訪問(wèn)模式等提示。利用這些提示,SSD能夠更有效地管理數(shù)據(jù)的存放位置,減少寫(xiě)入放大效應(yīng),提高整體性能。
2024年8月,微軟公司的Scott Lee在FMS峰會(huì)上宣布,微軟將在即將發(fā)布的Windows操作系統(tǒng)版本中集成這些增強(qiáng)功能。美光正在與微軟合作,持續(xù)優(yōu)化SSD的性能,以滿足未來(lái)應(yīng)用的需求。
本文作者
Prasad Alluri
SBU 客戶端存儲(chǔ)副總裁兼總經(jīng)理
文末互動(dòng)贏好禮
在本文中,我們共同見(jiàn)證了美光科技通過(guò)利用主機(jī)輔助功能優(yōu)化SSD性能,以卓越技術(shù)支撐未來(lái)AI應(yīng)用的高需求。
-
PC
+關(guān)注
關(guān)注
9文章
2155瀏覽量
156787 -
AI
+關(guān)注
關(guān)注
88文章
35476瀏覽量
281207 -
存儲(chǔ)系統(tǒng)
+關(guān)注
關(guān)注
2文章
423瀏覽量
41415
原文標(biāo)題:利用主機(jī)輔助功能優(yōu)化存儲(chǔ)系統(tǒng),滿足未來(lái)AI PC的需求
文章出處:【微信號(hào):gh_195c6bf0b140,微信公眾號(hào):Micron美光科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
光伏運(yùn)維輔助決策系統(tǒng)如何建設(shè)?

Ceph分布式存儲(chǔ)系統(tǒng)解析
科達(dá)KCloudStor云存儲(chǔ)系統(tǒng)與鯤鵬攜手推進(jìn)原生開(kāi)發(fā)技術(shù)創(chuàng)新
電腦云存儲(chǔ)系統(tǒng),電腦云存儲(chǔ)系統(tǒng)的教程,個(gè)人云電腦是什么以及怎么連接

如何配置 RAID 5 存儲(chǔ)系統(tǒng)
美光科技推出新款存儲(chǔ)解決方案

WDS分布式存儲(chǔ)系統(tǒng)軟件助力電信工程海量數(shù)據(jù)存儲(chǔ)項(xiàng)目

如何優(yōu)化emc存儲(chǔ)性能
emc企業(yè)級(jí)存儲(chǔ)系統(tǒng)的特點(diǎn)
美光高管:AI PC存儲(chǔ)遠(yuǎn)超“基準(zhǔn)要求”,兩大策略應(yīng)對(duì)數(shù)據(jù)中心“存儲(chǔ)池”

美光高管看2024年AI數(shù)據(jù)中心、AI PC的存儲(chǔ)趨勢(shì)

計(jì)算機(jī)存儲(chǔ)系統(tǒng)的工作原理和功能
計(jì)算機(jī)存儲(chǔ)系統(tǒng)的構(gòu)成
基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案

基于CSS融合存儲(chǔ)系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案

評(píng)論