新冠肺炎疫情對人們的工作、消費方式均產(chǎn)生巨大影響,但同時提振在線教育、遠程辦公、遠程政務、在線游戲、生鮮采購等一系列需求。
未來將有更多行業(yè)向云上遷移,加速各行業(yè)線上化、云化過程,帶動服務器市場增長。受下游需求變化影響,服務器市場正在發(fā)生的結構性變化不容忽視,例如產(chǎn)品高端化、AI化成為確定性的趨勢。
AI服務器成為服務器廠商競爭焦點
回顧2019年服務器市場,全球范圍內表現(xiàn)欠佳。不過,AI的興起給整個行業(yè)帶來了生命力,AI服務器將成為服務器廠商未來的競爭點。對算力的渴求+海量數(shù)據(jù)爆發(fā)成為當前AI服務器崛起的主要驅動因素。一方面,大多數(shù) AI 算法需要大量的數(shù)據(jù)和算力來完成任務,依靠云服務來執(zhí)行計算;另一方面,在提供智能云體驗上,由 AI 驅動的解決方案將決定企業(yè)能否在 AI 時代快速占領制高點。
目前,在中國的AI服務器市場,浪潮的市場占有率最大,占據(jù)約50.2%的市場份額,華為位居第二,約占15.7%,曙光以7.8%位居第三(數(shù)據(jù)來源于IDC 2019H1 PRC AI Infrastructure Tracker)。包括浪潮、華為、曙光、新華三、戴爾等在內的主流OEM、ODM廠商均有不止一款的AI服務器。
浪潮目前推出的AI服務器主要包括AGX-5、AGX-2、NF5488M5、NF5468M5、NF5280M5以及NF5280M5-V。其中,AGX-5單機可以配置16顆NVIDIA Tesla V100 Tensor Core 32GB GPUs,擁有10240個張量計算核心,計算性能達每秒2千萬億次。去年,浪潮還推出了浪潮元腦一體化解決方案。既包括了AI計算能力,也包括了AI PaaS平臺,同時包括了浪潮面向人工智能所推出的AutoML Suite套件。
華為自2018年10月發(fā)布AI戰(zhàn)略以來,于去年8月發(fā)布其算力最強的AI處理器昇騰910和全場景AI計算框架MindSpore,完成全棧全場景AI解決方案的構建。在典型的ResNet50 網(wǎng)絡的訓練中,昇騰910與MindSpore配合,與現(xiàn)有主流訓練單卡配合TensorFlow相比,顯示出接近2倍的性能提升。
AI服務器的競爭,已經(jīng)不只是簡單的產(chǎn)品升級迭代,而是上升到了整體的布局,是包括芯片、云、數(shù)據(jù)處理能力、框架、算法開發(fā)基礎、部署環(huán)境等在內的整體能力。
隨著數(shù)據(jù)的爆炸增長與深度神經(jīng)網(wǎng)絡日趨復雜,單機或小型服務器已經(jīng)無法滿足算力需求,未來將有大量的人工智能應用和服務被放在云端。AI算力需求逐步邁入高峰期,更高性能的AI服務器將在線下場景落地。
互聯(lián)網(wǎng)仍是AI服務器主戰(zhàn)場
雖然AI落地被認為是“架起梯子遠遠夠不到月亮”階段,但在某些細分領域已經(jīng)開始從“AI產(chǎn)業(yè)化”向“產(chǎn)業(yè)AI化”的逐步轉變。勇于嘗試新技術的互聯(lián)網(wǎng)公司仍是AI服務器的主戰(zhàn)場。新型冠狀病毒疫情爆發(fā)后,阿里巴巴、騰訊、百度等公司,通過開放核心算法和計算能力的方式,與醫(yī)學研究機構共同抗擊疫情,AI算力對于與疫情賽跑的分分秒秒中都起到了關鍵作用,助力病毒基因測序、疫苗及藥物研發(fā)、蛋白篩選等藥物研發(fā)攻關。
受疫情影響,在線辦公、教育、娛樂等應用需求加速增長,互聯(lián)網(wǎng)巨頭和細分領域頭部企業(yè),開始對服務器進行擴容,數(shù)據(jù)中心和服務器市場有望迎來擴容機遇。
企業(yè) | 服務器擴容情況 |
阿里巴巴 | 2月3日擴容1萬臺,2月4日擴容1萬臺 |
騰訊 | 1月29日至2月6日,8天總擴容超過10萬臺云服務器 |
金山辦公 | 1月25日前后,WPS表單服務器擴容5倍;2月3日后,金山文檔遠程會議服務器擴了3倍,金山文檔在線office擴了1倍。 |
叮當快藥 | 2月12日后,服務器擴容30倍 |
<電子發(fā)燒友>整理于2020.2.18 |
根據(jù)IDC《2019-2020中國AI計算力發(fā)展評估報告》顯示,互聯(lián)網(wǎng)是投資AI算力最多的行業(yè),占據(jù)了中國62.4%的人工智能算力投資市場份額。而算力這一AI基礎設施,主要由AI芯片和AI服務器玩家提供,這一市場正在高速增長。
不過,在互聯(lián)網(wǎng)行業(yè)之外,傳統(tǒng)行業(yè)和AI的結合也越來越緊密,其中服務行業(yè)正在加大對AI技術的投入,政府、教育、金融等傳統(tǒng)行業(yè)也進一步加深與AI應用的融合。
AI服務器需要多樣性算力
以AI帶來的多種數(shù)據(jù)類型和場景為代表,驅使計算架構優(yōu)化、多種計算架構并存,已經(jīng)成為實現(xiàn)最優(yōu)性能計算的必然選擇。AI爆發(fā)前,算力主要來源于x86服務器。而隨著單顆CPU性能提升遭遇瓶頸,傳統(tǒng)服務器難以滿足并行算力需求,以GPU為主的AI服務器開始了高速增長。擅長多線程并行的GPU在處理海量數(shù)據(jù)上有著先天優(yōu)勢,通過CPU+GPU異構組成的AI服務器成為當下主流,是服務器廠商紛紛發(fā)力的產(chǎn)品。
根據(jù)IDC對中國GPU服務器出貨量的預測,2018-2023年,整體市場年復合增長率(CAGR)為27.1%,到2023年市場規(guī)模將達到43.2億美金(約合人民幣298億元)。

在剛剛過去的2019年,由于互聯(lián)網(wǎng)行業(yè)采購的縮減以及中美貿(mào)易戰(zhàn)的不斷升級,給中國GPU服務器市場帶來了一定程度上的影響,使其市場增速稍有放緩,但依然高于中國x86服務器市場。
從產(chǎn)品角度看,8卡GPU服務器和英偉達的V100加速卡成為去年上半年的采購熱點,均占據(jù)30%以上的份額。
值得一提的是,在GPU稱霸的AI服務器領域,FPGA正以“加速”之形象變得深入人心。微軟是全球首個真正意義上在云數(shù)據(jù)中心中大規(guī)模成功部署FPGA的公司,他們牢牢抓住FPGA靈活性這一最重要的特點,通過使用FPGA,一方面可以盡早開展定制化計算與定制芯片的研究與設計,另一方面,可以保持與現(xiàn)有架構相互兼容的同構性。目前,包括浪潮、華為、戴爾、百度等均已宣布在其服務器中部署FPGA加速卡。
在異構方式上,除了CPU+GPU、CPU+FPGA,還有CPU+TPU、CPU+ASIC或CPU+多種加速卡等形式,隨著場景應用的逐漸豐富,AI服務器架構應了一句話“合適的才是最好的”,步入多樣化的算力需求時代。
算力缺口持續(xù)放大,巨頭、創(chuàng)企混戰(zhàn)
在筆者早先與雪湖科技聯(lián)合創(chuàng)始人兼COO王韻的交流中,他對于AI三要素:算法、算力、數(shù)據(jù),有個形象的比喻:算法是菜譜,算力是鍋,數(shù)據(jù)是食材。在AI發(fā)展初期,為什么算法公司占據(jù)明顯優(yōu)勢?因為要做出一道大餐,必須有好的菜譜。但是,當大家慢慢掌握了燒菜方法后,菜譜就變得不像最初那么重要了,反而是,一口好鍋和好的食材非常關鍵。這就是AI正在經(jīng)歷的從算法霸權,向算力霸權和數(shù)據(jù)霸權的演進。隨著AI、5G、無人駕駛等確定性趨勢技術的發(fā)展,算力缺口仍在不斷放大。我們所處的世界,計算的邊界也在不斷延伸,從數(shù)據(jù)中心到邊緣再到終端,智能計算將無所不及。AI終將成為一種基礎能力,連接芯片提供商、應用提供商、服務提供商和算法提供商。算力也將作為一切人工智能產(chǎn)業(yè)發(fā)展的核心,從早期的集中在訓練場景,發(fā)展到在推理場景的大規(guī)模應用階段。
對于服務器市場正在發(fā)生的變化,巨頭們早已開始了改變。
英特爾不斷提升其數(shù)據(jù)中心的異構計算的能力,并在跨多架構的開發(fā)過程中進行統(tǒng)一和簡化。剛剛斥資約20億美元收購的以色列人工智能公司Habana Labs,有助于提振英特爾面向數(shù)據(jù)中心的AI服務。Habana Labs的AI訓練處理器Gaudi,與使用同等數(shù)量GPU構建的系統(tǒng)相比,基于Gaudi的大節(jié)點訓練系統(tǒng)的吞吐量預計將增加4倍。Gaudi訓練產(chǎn)品和Goya推理產(chǎn)品能夠提供豐富的、易于編程的開發(fā)環(huán)境,幫助客戶部署差異化解決方案。
英偉達顯然也沒有掉以輕心,雖然在其剛剛宣布的2020財年第四季度及全年的財務報告中顯示,數(shù)據(jù)中心收入達到創(chuàng)紀錄的29.8億美元,比上年增長2%。對于未來,英偉達方面表示,“我們看到了一個新的計算時代的開始。固定功能加速器根本不是正確的答案。我們認為未來需要加速的計算平臺,并且軟件豐富性至關重要,數(shù)據(jù)中心可以由軟件定義。”
國內創(chuàng)企也在崛起的AI服務器市場中激流勇進。不過,由于云端訓練芯片的研發(fā)投入大、流片風險高,僅有為數(shù)不多的公司能夠進入該領域。目前主要有海思、阿里、依圖、寒武紀、燧原等。
應對未來數(shù)據(jù)量的爆炸性增長,硬件本身的能力有一定的局限性,軟硬協(xié)同的平臺組合,才能做到前端承接多源數(shù)據(jù)、后端支撐智能應用。算力、算法和數(shù)據(jù)的協(xié)同也至關重要,算力和算法的提升,數(shù)據(jù)的開放和共享,將共同推動AI向產(chǎn)品乃至行業(yè)智能化的普及。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
服務器
+關注
關注
12文章
9649瀏覽量
87154 -
算力
+關注
關注
2文章
1130瀏覽量
15410
發(fā)布評論請先 登錄
相關推薦
熱點推薦
AI原生架構升級:RAKsmart服務器在超大規(guī)模模型訓練中的算力突破
近年來,隨著千億級參數(shù)模型的崛起,AI訓練對算力的需求呈現(xiàn)指數(shù)級增長。傳統(tǒng)服務器架構在應對分布式訓練、高并發(fā)計算和顯存優(yōu)化等場景時逐漸顯露瓶
RAKsmart服務器如何重塑AI高并發(fā)算力格局
在AI大模型參數(shù)量突破萬億級、實時推理需求激增的當下,傳統(tǒng)服務器架構的并發(fā)處理能力已逼近物理極限。RAKsmart通過“硬件重構+軟件定義”的雙引擎創(chuàng)新,推出新一代
DeepSeek推動AI算力需求:800G光模塊的關鍵作用
隨著人工智能技術的飛速發(fā)展,AI算力需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對算
發(fā)表于 03-25 12:00
企業(yè)AI算力租賃是什么
企業(yè)AI算力租賃是指企業(yè)通過互聯(lián)網(wǎng)向專業(yè)的算力提供商租用所需的計算資源,以滿足其AI應用的
算力再躍升!億萬克發(fā)布新一代AI服務器——G882N7+!
的特質,但算力告急。想要打破數(shù)智時代的算力瓶頸,異構智算成為有效方案。 近期,億萬克面向激增的AI
什么是AI服務器?AI服務器的優(yōu)勢是什么?
AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的
大模型時代的算力需求
現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的算力,以及相關的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
發(fā)表于 08-20 09:04
算力服務器為什么選擇GPU
隨著人工智能技術的快速普及,算力需求日益增長。智算中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設備,其性能優(yōu)化顯得尤為關鍵。而GPU

AI高算力服務器散熱,需要用到哪些導熱界面材料?
在數(shù)字經(jīng)濟、AI大模型等發(fā)展的帶動下,全球服務器的市場需求急劇提升,利用其強大的計算能力,能夠處理復雜的算法和海量數(shù)據(jù)。與此同時,生成式人工智能的大算

華為云新一代柔性算力服務器,加速企業(yè)輕松上云數(shù)智化轉型
在數(shù)字化浪潮的推動下,云計算已經(jīng)成為企業(yè)發(fā)展的必由之路。然而,面對各行各業(yè)不斷變化的業(yè)務需求,傳統(tǒng)云服務器的固定規(guī)格往往難以滿足。華為云在不斷創(chuàng)新之中,推出了下一代柔性算

引領柔性算力新風潮,加速企業(yè)數(shù)智轉型首選服務器就是它
規(guī)格,難以滿足不同業(yè)務場景的多樣化需求,用戶常常面臨著資源浪費和性能瓶頸的困擾。為解決這一難題,華為云推出了顛覆行業(yè)的華為云耀云服務器 X 實例(以下簡稱:云耀 X 實例),以創(chuàng)新的柔性算

智能算力存在缺口,AI服務器市場規(guī)模持續(xù)提升
商的資本支出將大幅增加。全球前四大云服務商資本支出調升,預計將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務器市場規(guī)模持續(xù)增長 ? 近些年,人工智能技術在各個領域廣泛應用,包括智能制造、智慧醫(yī)
評論