浪潮是全球領(lǐng)先的AI計(jì)算力專業(yè)廠商，擁有業(yè)界最豐富的AI服務(wù)器產(chǎn)品陣列，致力于通過(guò)創(chuàng)新設(shè)計(jì)，為用戶提供適用于不同領(lǐng)域、不同場(chǎng)景的領(lǐng)先計(jì)算設(shè)備，以更好地應(yīng)對(duì)當(dāng)前海量數(shù)據(jù)爆發(fā)與復(fù)雜模型所帶來(lái)的巨大的計(jì)算挑戰(zhàn)，助推實(shí)現(xiàn)AI化轉(zhuǎn)型。據(jù)國(guó)際咨詢機(jī)構(gòu)IDC數(shù)據(jù)，浪潮AI服務(wù)器連續(xù)多年在中國(guó)的市場(chǎng)份額超過(guò)50%。下面我們就一起回顧浪潮推出的極致設(shè)計(jì)的AI服務(wù)器產(chǎn)品。

最快AI訓(xùn)練服務(wù)器NF5488A5

2020年，浪潮全新發(fā)布自研的新一代AI服務(wù)器NF5488A5，提供極致的AI性能和超高速帶寬，支持圖像視頻、語(yǔ)音識(shí)別、金融分析、智能客服等典型AI應(yīng)用場(chǎng)景，幫助AI用戶高效完成AI基礎(chǔ)設(shè)施和開(kāi)發(fā)環(huán)境的構(gòu)建，縮短開(kāi)發(fā)周期，顯著提升AI開(kāi)發(fā)和應(yīng)用效率。這款A(yù)I服務(wù)器在最新公布的MLPerf全球權(quán)威AI測(cè)試榜單中，僅用時(shí)33.37分鐘，就在包含128萬(wàn)張圖片的ImageNet數(shù)據(jù)集上完成Resnet50模型的訓(xùn)練，相當(dāng)于每秒訓(xùn)練23000多張圖片，單機(jī)計(jì)算性能排名第一。

NF5488A5單機(jī)訓(xùn)練性能可達(dá)5 PetaOPS，相比上一代服務(wù)器計(jì)算性能提升234%。兩年前Facebook的科學(xué)家用32臺(tái)GPU服務(wù)器、256塊GPU花了1個(gè)小時(shí)完成了ImageNet上的Resnet50訓(xùn)練，而現(xiàn)在僅需一臺(tái)NF5488A5，即可在33分鐘完成同樣的訓(xùn)練，單臺(tái)設(shè)備訓(xùn)練效率提升近60倍。同時(shí)，浪潮優(yōu)化了NF5488A5的拓?fù)浣Y(jié)構(gòu)，采用NUMA綁定策略，可實(shí)現(xiàn)CPU與最近GPU的指定通信，大幅提升CPU與GPU之間的數(shù)據(jù)傳輸效率，實(shí)現(xiàn)更低的數(shù)據(jù)傳輸延遲和更高的帶寬，滿足各種AI負(fù)載高效數(shù)據(jù)通信需求。

全球首款在 2U 空間內(nèi)高速互聯(lián)集成 8 顆最高性能 GPU 加速器的服務(wù)器AGX-2

2017年，浪潮在GTC大會(huì)期間發(fā)布了加速人工智能計(jì)算的超高密度服務(wù)器AGX-2，它將是全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU加速器的服務(wù)器，全面加速人工智能和科學(xué)工程計(jì)算等領(lǐng)域的研究應(yīng)用效率。

AGX-2在2U空間內(nèi)支持部署8塊NVLink或PCI-E 接口的NVIDIA Tesla P100 GPU，并在業(yè)界率先支持NVLink 2.0和最新發(fā)布的NVIDIA Tesla V100， GPU間互聯(lián)帶寬高達(dá)150GB/s。AGX-2具備良好的I/O擴(kuò)展能力，提供8塊NVMe/SAS/SATA熱插拔硬盤，可支持最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯(lián);AGX-2不僅支持通常的風(fēng)冷散熱方式，還可支持片上水冷以提供更高的計(jì)算能效比。

最強(qiáng) AI 超級(jí)服務(wù)器AGX-5

2018年，在2018人工智能計(jì)算大會(huì)AICC上，浪潮發(fā)布了AI計(jì)算性能高達(dá)每秒2千萬(wàn)億次的AI超級(jí)服務(wù)器AGX-5，這是全球最強(qiáng)大的AI計(jì)算主機(jī)之一。

浪潮創(chuàng)新研發(fā)設(shè)計(jì)的AI服務(wù)器AGX-5，可在單機(jī)內(nèi)支持16顆高速NVSwitch無(wú)阻塞互聯(lián)的Tesla V100 Tensor Core GPUs和新一代GPU加速器，提供2 PFlops的強(qiáng)大單機(jī)AI計(jì)算性能，與之前同類GPU服務(wù)器相比，AGX-5可支持4倍超大規(guī)模深度神經(jīng)網(wǎng)絡(luò)模型且訓(xùn)練速度提高10倍。AGX-5在計(jì)算性能、芯片互聯(lián)、數(shù)據(jù)吞吐等多方面實(shí)現(xiàn)了極大提升，由此帶來(lái)AI計(jì)算能力的革命性的進(jìn)步，為全球致力于領(lǐng)先AI科技的商業(yè)公司、科研創(chuàng)新機(jī)構(gòu)提供前所未見(jiàn)的AI創(chuàng)新加速體驗(yàn)。

最強(qiáng)Transformer 訓(xùn)練服務(wù)器NF5488M5

2019年，浪潮在2019 GPU技術(shù)大會(huì)（GTC2019）上發(fā)布AI服務(wù)器NF5488M5，在業(yè)界首次實(shí)現(xiàn)了4U空間內(nèi)集成8顆通過(guò)高速NVSwitch無(wú)阻塞全互聯(lián)的最新一代NVIDIA Tesla V100 Tensor Core 32GB GPUs，高擴(kuò)展、高性能、高能效，可靈活部署，AI計(jì)算性能可達(dá)每秒一千萬(wàn)億次，適用于圖像視頻、語(yǔ)音識(shí)別、金融分析、智能客服等典型AI應(yīng)用場(chǎng)景。

NF5488M5還配置2顆28核的頂配CPU，配合3UPI連接設(shè)計(jì)，提供頂級(jí)通用計(jì)算性能。4U尺寸、6KW供電設(shè)計(jì)使其適用于更廣泛的數(shù)據(jù)中心部署環(huán)境，特別適合于功耗受限的機(jī)柜上架場(chǎng)景。同時(shí)使用更加靈活的集群部署方案，能實(shí)現(xiàn)從硬件到應(yīng)用的集成部署。

Transformer是主流 NLP模型，參數(shù)規(guī)模可達(dá)數(shù)億，對(duì)計(jì)算、通信的要求非常高。性能數(shù)據(jù)顯示，相比同類服務(wù)器，NF5488M5大幅提升了Transformer的訓(xùn)練性能，GLUE 基準(zhǔn)訓(xùn)練至 80.4%的時(shí)間相比同類產(chǎn)品大幅減少 67%。NF5488M5進(jìn)一步豐富和優(yōu)化用戶的AI基礎(chǔ)架構(gòu)選擇，幫助用戶縮短AI模型開(kāi)發(fā)周期，加速AI技術(shù)創(chuàng)新與應(yīng)用落地。

責(zé)任編輯：YYX