北京2024年9月27日/美通社/ -- 9月25日,MLCommons協(xié)會(huì)發(fā)布最新MLPerf? Storage v1.0 AI存儲(chǔ)基準(zhǔn)測(cè)試成績(jī)。浪潮信息分布式存儲(chǔ)平臺(tái)AS13000G7表現(xiàn)出眾,在3D-UNet和CosmoFlow兩個(gè)模型共計(jì)八項(xiàng)測(cè)試中,斬獲五項(xiàng)冠軍。
MLPerf? Storage v1.0 AI存儲(chǔ)基準(zhǔn)測(cè)試成績(jī)
MLPerf?是影響力最廣的國(guó)際AI性能基準(zhǔn)評(píng)測(cè),由圖靈獎(jiǎng)得主大衛(wèi)?帕特森(David Patterson)聯(lián)合頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立。2023年推出MLPerf? 存儲(chǔ)基準(zhǔn)性能測(cè)試,旨在以架構(gòu)中立、具有代表性和可重復(fù)的方式衡量機(jī)器學(xué)習(xí)(ML)工作負(fù)載的存儲(chǔ)系統(tǒng)性能。該測(cè)試通過準(zhǔn)確建模ML工作負(fù)載所產(chǎn)生的I/O模式來幫助解決存算平衡問題,為不同存儲(chǔ)系統(tǒng)和不同加速器類型的混合和匹配提供了靈活性,為ML/AI模型開發(fā)者選擇存儲(chǔ)解決方案提供權(quán)威的參考依據(jù)。
本次MLPerf? 存儲(chǔ)基準(zhǔn)評(píng)測(cè)(v1.0)吸引了全球13家領(lǐng)先存儲(chǔ)廠商和研究機(jī)構(gòu)參與。該評(píng)測(cè)圍繞醫(yī)學(xué)影像分割、圖像分類、宇宙學(xué)參數(shù)預(yù)測(cè)三大AI存儲(chǔ)應(yīng)用場(chǎng)景,采用主流的3D-Unet、ResNet50、CosmoFlow三類模型,在GPU利用率高達(dá)90%或70%的條件下,以帶寬和支持的模擬 GPU (模擬加速器)數(shù)量為關(guān)鍵性能指標(biāo),評(píng)估單客戶端或集群模式下存儲(chǔ)系統(tǒng)的性能表現(xiàn)。
本次測(cè)試,浪潮信息采用3臺(tái)AS13000G7搭建分布式存儲(chǔ)集群,搭載ICFS自研分布式文件系統(tǒng),在3D-UNet和CosmoFlow兩大評(píng)測(cè)任務(wù)中共獲得五項(xiàng)最佳成績(jī)。其中,在圖像分割3D-UNet多客戶端2評(píng)測(cè)任務(wù)中,服務(wù)于10個(gè)客戶端264個(gè)加速器,集群聚合帶寬達(dá)到360GB/s,單個(gè)存儲(chǔ)節(jié)點(diǎn)的帶寬高達(dá)120GB/s;在宇宙學(xué)分析CosmoFlow單客戶端2和多客戶端2評(píng)測(cè)任務(wù)中,分別提供了18 GB/s和52 GB/s的帶寬最佳成績(jī)。
近年來,浪潮信息基于存算協(xié)同的理念,持續(xù)加大存儲(chǔ)研發(fā)投入,從整體架構(gòu)到各技術(shù)棧持續(xù)創(chuàng)新,優(yōu)化升級(jí)存力,提升了GPU算力整體性能表現(xiàn),實(shí)現(xiàn)了模型訓(xùn)練數(shù)據(jù)處理的即時(shí)性,消除了GPU資源閑置(即"饑餓GPU"現(xiàn)象),全面提升大模型訓(xùn)練效率。
架構(gòu)層面,采用全新數(shù)控分離架構(gòu)。數(shù)據(jù)面和控制面完全解耦,控制面實(shí)現(xiàn)數(shù)據(jù)管理和訪問,數(shù)據(jù)面讀寫操作直通到盤,達(dá)到120 GB/s的單存儲(chǔ)節(jié)點(diǎn)的超高性能,單存儲(chǔ)節(jié)點(diǎn)支撐5臺(tái)8卡計(jì)算節(jié)點(diǎn)規(guī)模,同時(shí)計(jì)算集群GPU利用率90%以上;
軟件層面,通過多路并發(fā)透?jìng)骷夹g(shù),有效減少I/O操作中頻繁的上下文切換,降低單次I/O時(shí)延50%,同時(shí)達(dá)到高并發(fā)下時(shí)延穩(wěn)定性。本次測(cè)試中1430個(gè)高并發(fā)讀線程支撐下,保證每個(gè)線程單次I/O的時(shí)延均在0.005秒,AI端到端訓(xùn)練中I/O占比低于10%。此外,通過元數(shù)據(jù)VRANK技術(shù),達(dá)到單個(gè)元數(shù)據(jù)進(jìn)程多單元并發(fā)處理,提供高性能元數(shù)據(jù)服務(wù);
軟硬協(xié)同層面,通過內(nèi)核親和力調(diào)度,I/O請(qǐng)求動(dòng)態(tài)調(diào)整,增強(qiáng)文件系統(tǒng)與計(jì)算節(jié)點(diǎn)親和性,確保負(fù)載均衡,將數(shù)據(jù)移動(dòng)與多核CPU之間的訪問效率提升400%。
浪潮信息是全球領(lǐng)先的存儲(chǔ)供應(yīng)商,存儲(chǔ)裝機(jī)容量連續(xù)3年穩(wěn)居全球前三、中國(guó)第一,是承載中國(guó)用戶數(shù)據(jù)最多、數(shù)據(jù)存力貢獻(xiàn)最大的存儲(chǔ)廠商。近年來,浪潮信息積極擁抱AI生態(tài),專注于構(gòu)建面向人工智能的存儲(chǔ)平臺(tái),通過精準(zhǔn)優(yōu)化存算資源配置與持續(xù)強(qiáng)化技術(shù)創(chuàng)新,全面推進(jìn)AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進(jìn)程,力爭(zhēng)打造AI存儲(chǔ)的理想之選。
審核編輯 黃宇
-
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4359瀏覽量
86205 -
浪潮
+關(guān)注
關(guān)注
1文章
469瀏覽量
23953 -
AI
+關(guān)注
關(guān)注
87文章
31685瀏覽量
270485
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
浪潮信息存儲(chǔ)SATA SSD:技術(shù)創(chuàng)新引領(lǐng)數(shù)據(jù)存儲(chǔ)新時(shí)代
浪潮信息存儲(chǔ)SATA SSD:以技術(shù)創(chuàng)新,開啟數(shù)據(jù)存儲(chǔ)新篇章
MLCommons推出AI基準(zhǔn)測(cè)試0.5版
浪潮信息分布式存儲(chǔ)平臺(tái)AS13000G7的優(yōu)越性能
![<b class='flag-5'>浪潮信息</b>分布式<b class='flag-5'>存儲(chǔ)</b>平臺(tái)<b class='flag-5'>AS13000G7</b>的優(yōu)越<b class='flag-5'>性能</b>](https://file1.elecfans.com/web1/M00/F4/D2/wKgaoWcyzraAYPwXAAHw6BE7n0E826.png)
浪潮信息AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道
![<b class='flag-5'>浪潮信息</b><b class='flag-5'>AI</b><b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>性能</b><b class='flag-5'>測(cè)試</b>的領(lǐng)先之道](https://file1.elecfans.com/web2/M00/0B/5D/wKgaomcgnfeARj1WAAAFGKK4S2c090.png)
長(zhǎng)擎安全操作系統(tǒng)24與浪潮信息HF/AS存儲(chǔ)系列成功兼容
浪潮信息推出AIGC存儲(chǔ)解決方案
浪潮信息推出基于新一代分布式存儲(chǔ)平臺(tái)AS13000G7的AIGC存儲(chǔ)解決方案
![<b class='flag-5'>浪潮信息</b>推出基于新<b class='flag-5'>一</b>代分布式<b class='flag-5'>存儲(chǔ)</b>平臺(tái)<b class='flag-5'>AS13000G7</b>的AIGC<b class='flag-5'>存儲(chǔ)</b>解決方案](https://file1.elecfans.com/web2/M00/F6/A7/wKgZomaCjN-Aa5uAAABJhO1rf-c369.png)
浪潮信息分布式存儲(chǔ)AS13000完成英特爾至強(qiáng)6能效核處理器適配
![<b class='flag-5'>浪潮信息</b>分布式<b class='flag-5'>存儲(chǔ)</b>AS<b class='flag-5'>13000</b>完成英特爾至強(qiáng)6能效核處理器適配](https://file1.elecfans.com/web2/M00/F1/2E/wKgaomZyPRWAZ-ZtAAATAuwWalE093.jpg)
CCF-TCIST走進(jìn)浪潮信息 共話AI時(shí)代存儲(chǔ)創(chuàng)新
![CCF-TCIST走進(jìn)<b class='flag-5'>浪潮信息</b> 共話<b class='flag-5'>AI</b>時(shí)代<b class='flag-5'>存儲(chǔ)</b>創(chuàng)新](https://file1.elecfans.com//web2/M00/ED/54/wKgaomZiqEiAeshiAADNMHNeu6U478.jpg)
浪潮信息發(fā)布AS13000G7-N系列分布式全閃存儲(chǔ)
為大模型專門優(yōu)化 浪潮信息發(fā)布分布式全閃存儲(chǔ)AS13000G7-N系列
![為大模型專門優(yōu)化 <b class='flag-5'>浪潮信息</b>發(fā)布分布式全閃<b class='flag-5'>存儲(chǔ)</b>AS<b class='flag-5'>13000G7</b>-N系列](https://file1.elecfans.com//web2/M00/E3/EB/wKgZomY93LqAB0zmAACk7cG7-Us233.jpg)
浪潮信息發(fā)布為大模型專門優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列
![<b class='flag-5'>浪潮信息</b>發(fā)布為大模型專門優(yōu)化的分布式全閃<b class='flag-5'>存儲(chǔ)</b>AS<b class='flag-5'>13000G7</b>-N系列](https://file1.elecfans.com/web2/M00/E2/15/wKgZomY61--ATpyVAAALqqPGbD8415.jpg)
評(píng)論