隨著生成式AI等人工智能席卷全球,服務(wù)器市場將作為產(chǎn)業(yè)先鋒迎來巨大的發(fā)展機會。在日前舉辦的臺北電腦展上,Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)接受電子發(fā)燒友網(wǎng)等媒體采訪時表示,Supermicro為云端、AI/ML、存儲和5G/智能邊緣應(yīng)用的全方位IT解決方案,我們正在推進關(guān)鍵領(lǐng)域的技術(shù)發(fā)展,包括產(chǎn)品設(shè)計、綠色計算、制造和機架級集成,以助力企業(yè)及組織快速提高生產(chǎn)效率并降低能耗。
多款服務(wù)器產(chǎn)品助力人工智能
Supermicro擁有最全面的產(chǎn)品組合,可以為人工智能工作負載和其他垂直領(lǐng)域提供大力支持。其創(chuàng)新型系統(tǒng)包括基于第四代Intel Xeon可擴展處理器和第四代AMD EPYC 處理器的單插槽和雙插槽機架安裝系統(tǒng),提供1U、2U、4U、5U和8U規(guī)格,并支持1到10 GPU。此外還包括在8U機箱中支持20個NVIDIA H100 GPU的密度優(yōu)化型SuperBlade系統(tǒng),以及專門針對物聯(lián)網(wǎng)和邊緣環(huán)境設(shè)計的SuperEdge系統(tǒng)。全新發(fā)布的E3.S Petascale存儲系統(tǒng)在利用超大規(guī)模的人工智能數(shù)據(jù)集進行訓(xùn)練時,表現(xiàn)出了卓越的性能、容量、吞吐量和耐用性,同時還提供出色的能效。
基于NVIDIA Grace CPU超級芯片的新產(chǎn)品系列也將很快上市。這些新服務(wù)器均包含144個核心,雙CPU及900 GB/s 一致性接口,可運行高響應(yīng)度的人工智能應(yīng)用程序和需要極低延遲響應(yīng)的應(yīng)用程序。此外,CPU以500W TDP的速度運行,該系統(tǒng)將為云原生工作負載和下一代人工智能應(yīng)用降低能耗。
三大優(yōu)勢穩(wěn)固服務(wù)器的綠色高效交付
在采訪中當問及Supermicro擁有超越行業(yè)標準的亮眼成績,取得巨大成功的原因,以及抓住了哪些機會等話題時,梁見后談到了成功的三點因素。
一是,模塊化解決方案為高效服務(wù)客戶提供了巨大的助力,它能夠更快地把產(chǎn)品交付給客戶,減少等候時間,提高服務(wù)效率。模塊化的解決方案一直都是我們非常重要的成功驅(qū)動因素。
其二,綠色計算。從18年前,Supermicro就開始布局綠色計算解決方案,幫助客戶進一步減少自己的電力成本以及能源消耗。當前,通過Supermicro的解決方案,數(shù)據(jù)中心的電力消耗可以降低達30%,讓整體成本獲得大幅下降。
他表示綠色計算已經(jīng)成為SupermicroDNA的一部分。“不管是我們所有的產(chǎn)品設(shè)計還是電路等等,都會去優(yōu)化它的能源消耗,提高它的能耗效率,可以極大幫助我們的系統(tǒng)節(jié)省5-10%的能源消耗。而在熱管理子系統(tǒng)當中,我們也以最優(yōu)化的設(shè)計讓冷卻設(shè)計本身就具備更低的排熱和散熱的需求,以及采用了很多新的材料來降低散熱的能耗需求。我們將會延續(xù)我們的綠色計算DNA,做好這些散熱優(yōu)化,以幫助我們的客戶降低碳足跡和碳排放。”他說道。
目前,數(shù)據(jù)中心消耗的電力占到了全球電力需求的1-1.5%,因此綠色計算對于數(shù)據(jù)中心至關(guān)重要。Supermicro完整的機架級液冷解決方案可以大幅降低對傳統(tǒng)冷卻方法的需求。通過冗余和熱插拔電源和泵,機架上的所有高性能AI和HPC優(yōu)化服務(wù)器都能夠得到有效冷卻,不懼電源或泵發(fā)生任何故障。該解決方案還為CPU和GPU量身定制了冷板(Cold Plate),相較于傳統(tǒng)設(shè)計能夠更有效地去除熱量。如果數(shù)據(jù)中心利用Supermicro技術(shù)將其PUE降低至近1.0,不僅能節(jié)省高達100億美元的能源成本,并且相當于減少建造30座化石燃料發(fā)電廠。
第三是機架級整體解決方案,有效減少客戶的等候時間。此前客戶需要自身進行整合,現(xiàn)在得益于Supermicro的全機架級完整解決方案,客戶能夠即插即用,幫助客戶實現(xiàn)快速啟動,更好地實現(xiàn)業(yè)務(wù)的發(fā)展。
梁見后說,像ChatGPT以及其他很多的AI應(yīng)用場景下,我們能夠加速交付周期,這是非常關(guān)鍵的一點。傳統(tǒng)的交付周期,可能客戶需要花3個月/6 個月才能完成他們的部署,但是現(xiàn)在有了我們的系統(tǒng)級/機架級的液冷解決方案,所需要的交付周期短至2周。我們的Delta-Next支持正常的液冷/空氣冷卻,同時客戶一旦收到就能夠?qū)崿F(xiàn)即插即用,很多客戶都非常青睞這一技術(shù)。
他透露,Supermicro在不斷地增強投資,現(xiàn)在已經(jīng)可以每個月交付4000套機架級的解決方案。到今年年末,出貨量將會增加到5000套機架級的解決方案。
推動液冷應(yīng)用,看好下半年至明年的強勁增長
梁見后表示,液冷其實并不是一個新鮮的東西,存在已經(jīng)超過 30 多年了,但由于面臨成本挑戰(zhàn),一直沒有成為主流。而Supermicro會大力推廣液冷,一旦液冷方案在降低成本之后會帶來大規(guī)模應(yīng)用。Supermicro的Building Block解決方案就能夠很好應(yīng)用液體冷卻技術(shù)。“我們相信隨著技術(shù)的進步,更多的客戶會選擇液冷,為此我們也在積極擴張產(chǎn)能服務(wù)客戶。”
即便由于整體經(jīng)濟的增速減緩,服務(wù)器應(yīng)用端市場可能會稍微放緩,不過梁見后認為通過對客戶訂單需求的預(yù)測來看,今年下半年包括明年都將繼續(xù)保持強勁的增長。為此Supermicro主要考量如何去更好地滿足增長的客戶需求。
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9640瀏覽量
87142 -
AI
+關(guān)注
關(guān)注
87文章
33885瀏覽量
274796 -
Supermicro
+關(guān)注
關(guān)注
0文章
32瀏覽量
9482
發(fā)布評論請先 登錄
AI原生架構(gòu)升級:RAKsmart服務(wù)器在超大規(guī)模模型訓(xùn)練中的算力突破
智能算力服務(wù)器應(yīng)用領(lǐng)域

RAKsmart服務(wù)器如何重塑AI高并發(fā)算力格局
DeepSeek推動AI算力需求:800G光模塊的關(guān)鍵作用
Firefly 服務(wù)器系列:覆蓋多個領(lǐng)域的高算力解決方案

Supermicro高性能服務(wù)器量產(chǎn)供貨,優(yōu)化多重工作負載
算力基礎(chǔ)篇:從零開始了解算力

算力再躍升!億萬克發(fā)布新一代AI服務(wù)器——G882N7+!
什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢是什么?
算力服務(wù)器為什么選擇GPU

ai服務(wù)器是什么架構(gòu)類型
AI高算力服務(wù)器散熱,需要用到哪些導(dǎo)熱界面材料?

引領(lǐng)柔性算力新風(fēng)潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選服務(wù)器就是它

評論