電子發燒友網報道(文/李彎彎)近日消息,隨著ChatGPT的熱潮,華為昇騰AI服務器、拓維信息兆瀚RA5900-A系列AI訓練服務器等詢單量及預定量爆發式增長。
AI服務器通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合可以滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺、機器學習等AI應用場景提供強大的算力支持,支撐AI算法訓練和推理。
AI服務器與普通服務器的區別
服務器是一種高性能計算機,作為網絡的節點,存儲、處理網絡上80%的數據、信息,因此也被稱為網絡的靈魂。普通服務器是以CPU為計算能力的提供者,采用串行架構,擅長邏輯計算和浮點計算。由于邏輯判斷需要大量的分支跳轉,使得CPU的結構復雜,計算能力的提高主要靠堆積更多的核心數來實現。
在大數據、云計算、人工智能、元宇宙、數據孿生和物聯網等網絡技術的應用中,互聯網上的數據呈現出幾何倍數的增長,這對以CPU為主要計算能力來源的傳統服務是巨大的考驗。目前,CPU的制程工藝和單個CPU的核心數接近極限,但數據的增加仍在繼續,因此有必要提高服務器的數據處理能力。在這種環境下,AI服務器應運而生。
AI服務器與普通服務器的區別:在服務器的硬件架構方面,AI服務器是異構服務器,可以根據應用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU + 其他加速卡等。與普通服務器相比,內存、存儲、網絡沒有區別,主要是大數據、云計算、人工智能等方面需要更多的內存,滿足各種數據的收集整理。
普通GPU服務器一般是單卡或者雙卡,AI服務器需要承擔大量計算,一般配置四塊以上的GPU卡,甚至搭建一個AI服務器集群;AI服務器需要獨特的設計,由于AI服務器有多個GPU卡,需要對系統結構、散熱和拓撲進行專門設計,以滿足AI服務器長期穩定運行的要求。
目前市場上的AI服務器普遍采用CPU + GPU,由于GPU和CPU形式不同所以AI服務器采用并行計算模式,善于梳理圖形渲染、機器學習等密集數據操作。在GPU上,NVIDIA優勢明顯,GPU單卡核心數可達近千個,如配置16張NVIDIATesla V100 Tensor Core 32GB GPUs核心數可超過10240個,計算性能高達每秒2千萬億次。而且經過近幾年市場的發展,也證實了CPU +GPU異構服務器在當前環境下確實有很大的發展空間。
AI服務器市場現狀及主要玩家
近幾年,中國市場的AI服務器出貨量和滲透率都在提升。未來預計隨著AI模型訓練和應用的興起,需要支持AI功能的服務器將持續增加。IDC預計,中國AI服務器2021年的市場規模為57億美元,同比增長61.6%,到2025年市場規模將增長到109億美元,CAGR為17.5%。
根據其此前發布的《中國加速計算市場(2021年下半年)跟蹤報告》,2021年全年中國AI服務器市場規模達350.3億元,同比增長68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五,占據了82.6%的市場份額。其中,浪潮AI服務器市場占有率達52.4%。
近日,浪潮信息在某平臺上表示,公司在人工智能服務器領域的市占率位居全球AI服務器市場第一,在ChatGPT和AIGC相關方向上已有布局相關業務。日前消息,淮海智算中心攜手浪潮信息進行了超大規模參數AI大模型訓練性能測試,實測數據表明,千億參數規模的自然語言AI單體大模型在淮海智算中心計算平臺上的訓練算力效率達53.5%,刷新了業內AI大模型訓練算力效率新高。
寧暢在AI服務器方面已經發布多款產品,比如X620 G50,這是一款基于第四代英特爾至強可擴展處理器的高端2U機架式服務器。可根據業務需求對資源進行靈活配置,滿足各種各行業應用需求。完美適用于機器學習、AI推理、云計算、高性能計算、云存儲、大數據、虛擬化、辦公系統等應用場景。
還有上文提到的拓維信息,早在ChatGPT爆發之前,就已布局了一系列人工智能產品。該公司表示,旗下兆瀚智能計算產品包括AI推理、AI訓練、AI集群等,具有超強AI算力、更優AI能效、最佳AI拓展等產品特點,在行業內有領先優勢。
未來,拓維信息將持續重點關注先進計算、人工智能等前沿技術領域,加大在人工智能產業的規劃布局及基礎軟硬件產業投入,充分發揮自身在人工智能領域的影響力。通過與華為的全方位深入合作,推出基于昇騰處理器的兆瀚AI產品,努力構筑業界超強AI算力平臺。
中科曙光在AI服務器上也有布局。據介紹,中科曙光已推出“全浸沒式液冷AI訓練專用服務器”,與百度、復旦大學等企業及科研院所深度合作,形成了諸多基于AI模型的聯合解決方案,支持了國內多個千億級以上參數規模的AI大模型訓練,攻克類腦智能、基因技術、自動駕駛等多個前沿領域AI難題。
此外還有中國長城、神州數碼、廣電運通等。中國長城在芯片、整機、服務器、網絡交換機、路由器、工業控制系統、容災備份產品等自主安全產品譜系逐步成為相關市場的主導產品,AI服務器已實現量產。神州數碼之前推出了神州鯤泰人工智能推理服務器,以“鯤鵬+昇騰”為核心,可提供128個處理核心的算力,同時最大可支持8張華為Atlas 300推理卡,提供256GB推理緩存,以及最大704 TOPS INT8的AI算力。
小結
過去幾年人工智能發展迅速,作為算力支撐的AI服務器市場在不斷增加。如今在ChatGPT爆火下,人工智能訓練和推理尋求將持續擴大,預計未來AI服務器市場規模將繼續保持高速增長趨勢。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無疑將更具優勢。
AI服務器通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合可以滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺、機器學習等AI應用場景提供強大的算力支持,支撐AI算法訓練和推理。
AI服務器與普通服務器的區別
服務器是一種高性能計算機,作為網絡的節點,存儲、處理網絡上80%的數據、信息,因此也被稱為網絡的靈魂。普通服務器是以CPU為計算能力的提供者,采用串行架構,擅長邏輯計算和浮點計算。由于邏輯判斷需要大量的分支跳轉,使得CPU的結構復雜,計算能力的提高主要靠堆積更多的核心數來實現。
在大數據、云計算、人工智能、元宇宙、數據孿生和物聯網等網絡技術的應用中,互聯網上的數據呈現出幾何倍數的增長,這對以CPU為主要計算能力來源的傳統服務是巨大的考驗。目前,CPU的制程工藝和單個CPU的核心數接近極限,但數據的增加仍在繼續,因此有必要提高服務器的數據處理能力。在這種環境下,AI服務器應運而生。
AI服務器與普通服務器的區別:在服務器的硬件架構方面,AI服務器是異構服務器,可以根據應用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU + 其他加速卡等。與普通服務器相比,內存、存儲、網絡沒有區別,主要是大數據、云計算、人工智能等方面需要更多的內存,滿足各種數據的收集整理。
普通GPU服務器一般是單卡或者雙卡,AI服務器需要承擔大量計算,一般配置四塊以上的GPU卡,甚至搭建一個AI服務器集群;AI服務器需要獨特的設計,由于AI服務器有多個GPU卡,需要對系統結構、散熱和拓撲進行專門設計,以滿足AI服務器長期穩定運行的要求。
目前市場上的AI服務器普遍采用CPU + GPU,由于GPU和CPU形式不同所以AI服務器采用并行計算模式,善于梳理圖形渲染、機器學習等密集數據操作。在GPU上,NVIDIA優勢明顯,GPU單卡核心數可達近千個,如配置16張NVIDIATesla V100 Tensor Core 32GB GPUs核心數可超過10240個,計算性能高達每秒2千萬億次。而且經過近幾年市場的發展,也證實了CPU +GPU異構服務器在當前環境下確實有很大的發展空間。
AI服務器市場現狀及主要玩家
近幾年,中國市場的AI服務器出貨量和滲透率都在提升。未來預計隨著AI模型訓練和應用的興起,需要支持AI功能的服務器將持續增加。IDC預計,中國AI服務器2021年的市場規模為57億美元,同比增長61.6%,到2025年市場規模將增長到109億美元,CAGR為17.5%。
根據其此前發布的《中國加速計算市場(2021年下半年)跟蹤報告》,2021年全年中國AI服務器市場規模達350.3億元,同比增長68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五,占據了82.6%的市場份額。其中,浪潮AI服務器市場占有率達52.4%。
近日,浪潮信息在某平臺上表示,公司在人工智能服務器領域的市占率位居全球AI服務器市場第一,在ChatGPT和AIGC相關方向上已有布局相關業務。日前消息,淮海智算中心攜手浪潮信息進行了超大規模參數AI大模型訓練性能測試,實測數據表明,千億參數規模的自然語言AI單體大模型在淮海智算中心計算平臺上的訓練算力效率達53.5%,刷新了業內AI大模型訓練算力效率新高。
寧暢在AI服務器方面已經發布多款產品,比如X620 G50,這是一款基于第四代英特爾至強可擴展處理器的高端2U機架式服務器。可根據業務需求對資源進行靈活配置,滿足各種各行業應用需求。完美適用于機器學習、AI推理、云計算、高性能計算、云存儲、大數據、虛擬化、辦公系統等應用場景。
還有上文提到的拓維信息,早在ChatGPT爆發之前,就已布局了一系列人工智能產品。該公司表示,旗下兆瀚智能計算產品包括AI推理、AI訓練、AI集群等,具有超強AI算力、更優AI能效、最佳AI拓展等產品特點,在行業內有領先優勢。
未來,拓維信息將持續重點關注先進計算、人工智能等前沿技術領域,加大在人工智能產業的規劃布局及基礎軟硬件產業投入,充分發揮自身在人工智能領域的影響力。通過與華為的全方位深入合作,推出基于昇騰處理器的兆瀚AI產品,努力構筑業界超強AI算力平臺。
中科曙光在AI服務器上也有布局。據介紹,中科曙光已推出“全浸沒式液冷AI訓練專用服務器”,與百度、復旦大學等企業及科研院所深度合作,形成了諸多基于AI模型的聯合解決方案,支持了國內多個千億級以上參數規模的AI大模型訓練,攻克類腦智能、基因技術、自動駕駛等多個前沿領域AI難題。
此外還有中國長城、神州數碼、廣電運通等。中國長城在芯片、整機、服務器、網絡交換機、路由器、工業控制系統、容災備份產品等自主安全產品譜系逐步成為相關市場的主導產品,AI服務器已實現量產。神州數碼之前推出了神州鯤泰人工智能推理服務器,以“鯤鵬+昇騰”為核心,可提供128個處理核心的算力,同時最大可支持8張華為Atlas 300推理卡,提供256GB推理緩存,以及最大704 TOPS INT8的AI算力。
小結
過去幾年人工智能發展迅速,作為算力支撐的AI服務器市場在不斷增加。如今在ChatGPT爆火下,人工智能訓練和推理尋求將持續擴大,預計未來AI服務器市場規模將繼續保持高速增長趨勢。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無疑將更具優勢。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
AI
+關注
關注
87文章
33919瀏覽量
274827 -
ChatGPT
+關注
關注
29文章
1586瀏覽量
8752
發布評論請先 登錄
相關推薦
熱點推薦
RAKsmart服務器如何賦能AI開發與部署
AI開發與部署的復雜性不僅體現在算法設計層面,更依賴于底層基礎設施的支撐能力。RAKsmart服務器憑借其高性能硬件架構、靈活的資源調度能力以及面向AI場景的深度優化,正在成為企業突破算力瓶頸、加速

AI 推理服務器都有什么?2025年服務器品牌排行TOP10與選購技巧
根據行業數據,AI推理服務器的性能差異可以達到10倍以上。比如,用普通服務器跑一個700億參數的大模型,可能需要30秒才能出結果,而用頂級服務器可能只需要3秒。這就是為什么選對


利用RAKsmart服務器托管AI模型訓練的優勢
AI模型訓練需要強大的計算資源、高效的存儲和穩定的網絡支持,這對服務器的性能提出了較高要求。而RAKsmart服務器憑借其核心優勢,成為托管AI模型訓練的理想選擇。下面,
Manus掀起AI熱潮,云服務器面臨新挑戰
近日,一款名為Manus的AI產品在網絡上掀起波瀾,被譽為“全球首款真正意義上的通用AIAgent”。Manus的火爆不僅展現了AI技術的巨大潛力,也凸顯了云服務器在支撐這類創新應用中的關鍵作用。
ChatGPT短暫“罷工”,云服務器還能用嗎?
日,備受歡迎的AI聊天機器人ChatGPT突然遭遇了一次短暫的服務中斷,這讓不少用戶心生疑慮:云服務器,這個支撐起無數互聯網應用的強大后盾,究竟還靠譜嗎?
什么是AI服務器?AI服務器的優勢是什么?
AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺、機器學習等人工智能應用場景提
AI服務器的特點和關鍵技術
AI服務器,即人工智能服務器,是一種專門設計用于運行和加速人工智能(AI)算法與模型的硬件設備。隨著人工智能技術的快速發展和普及,AI
英偉達新業務動向:AI服務器市場的新變局
在全球AI技術迅猛發展的浪潮中,英偉達正積極布局,尋求新的業務增長點。據最新報道,英偉達計劃為其即將推出的GB200旗艦人工智能芯片設計服務器機架,此舉無疑將對該領域的傳統廠商如戴爾、HPE和AMD等構成一定壓力,甚至可能引發
差分晶振在AI服務器中的應用案例
隨著ChatGPT技術不斷發展和應用,我國AI服務器市場保持較快增速(預計 2023年我國服務器市場規模將增至308億美元),而AI
發表于 06-17 15:15
?1次下載
評論