高性能計算、人工智能計算,通常指使用很多的處理器進行并行運算,可為企業創造非凡的價值。CPU、GPU、FPGA或者ASIC,均可實現計算功能,并通過高性能網絡互連,實現集群運算。從性能角度分析,CPU《GPU《FPGA《ASIC,從編程的靈活度分析 ,CPU》GPU》FPGA》ASIC。所以,綜合了性能和編程可實現性,我們會選擇GPU來實現高性能計算。
選擇GPU服務器的基本原則
GPU服務器按照總線接口類型,可以分為傳統PCI-e和NV-Link兩種接口。NV-Link相對于PCI-e接口,有更高的帶寬和更低的延時優勢,但是NV-Link成本和復雜度更高,基于NV-Link的GPU服務器相對較少,成本也較高。
GPU服務器也需要考慮業務的需求,選擇合適的GPU型號。高性能計算需要雙精度運算,可以選高性能的GPU(例如V100);人工智能領域,模型的訓練需要采用高性能的GPU(例如V100),訓練結束后需要進行推理,就可以選擇低成本的GPU(例如T4)。
GPU服務器也需要考慮應用場景,比如在邊緣的通訊基站可以考慮配置T4的服務器,而在數據中心機房可以考慮配置V100的服務器。
中興通訊提供了兩款GPU服務器供客戶選擇,分別是R5360G4和R5560G4。R5360G4在2U的高度支持4個標準全寬全長的GPU卡,R5560G4在4U的高度支持8個標準全寬全長的GPU卡。
ZXCLOUD R5360G4是一款面向高性能計算領域應用的計算密集型機架式服務器,支持最新的英特爾?至強?可擴展處理器,支持4個全系列GPU加速卡。
支持2顆英特爾?至強?可擴展處理器,最高150W 處理器;支持16個DDR4內存插槽,內存速率最高可達2666MT/s;提供最大8+3個非熱插拔功能的PCI‐E 3.0插槽,最大支持4個GPU加速卡;在2U高度支持高性能12Gb/s 8塊2.5”或3.5”SAS/SATA熱插拔硬盤;提供標準PCIe RAID卡,支持RAID 0/1/10/5/6/50/60功能;集成2個千兆以太網接口(RJ45);電源輸出功率1600w,AC 100-240v/50~60Hz輸入,240V高壓直流,支持1+1熱插拔冗余電源。
R5560G4的產品規格和特點
ZXCLOUD R5360G4是一款面向高性能計算領域應用的計算密集型機架式服務器,支持最新的英特爾?至強?可擴展處理器,支持8個全系列GPU加速卡。
支持2顆英特爾?至強?可擴展處理器,最高205W 處理器;支持24個DDR4內存插槽,內存速率最高可達2933MT/s;提供最大8+3個非熱插拔功能的PCI‐E 3.0插槽,最大支持8個GPU加速卡;在4U高度支持高性能12Gb/s 8塊2.5寸SAS/SATA熱插拔硬盤;提供標準PCIe RAID卡,支持RAID 0/1/10/5/6/50/60功能;集成2個千兆以太網接口(RJ45);電源輸出功率1600w或2200W,AC 100-240v/50~60Hz輸入,240V高壓直流,支持2+1熱插拔冗余電源。
基于GPU服務器的應用方案
(1)SBC硬件加速方案
典型的SBC網元集成了信令處理、媒體處理和TC轉碼三種實體單元,具體地說,它包括了用戶接入、呼叫處理、eSRVCC切換、緊急呼叫、網間互通和WebRTC等十多種媒體處理和相應的信令控制功能。在這些功能中,TC轉碼是最主要的資源消耗”大戶“,大約會占用一半以上的系統資源,因此硬件加速技術必不可少。
但是面對種類如此繁多的需求,僅僅依靠CPU是難以滿足的,必須通過CPU和GPU的聯動才有可能較好地支持。一般來說,虛擬化網絡的CPU是珍貴資源,因此將TC等計算邏輯較復雜、算法變更頻繁的業務分配給GPU/FPGA等加速硬件是最佳選擇。而對于轉發等低功耗、高轉發、低時延、計算邏輯簡單、算法變更較小的業務,目前暫不需要采用硬件加速。
基于R5360G4的SBC硬件加速方案,實現TC轉碼的加速,大大減少了CPU的資源占用了,提升了產品的整體性能。
(2)視頻監控硬件加速方案
視頻監控是安全防范系統的重要組成部分,包含了前端攝像頭、傳輸線纜和視頻監控平臺。其中,視頻監控平臺需要完成視頻的編解碼、轉碼、加密、播放等功能,復雜度高,處理的數據量大,需要通過GPU的硬件加速,提升業務性能降低CPU的占用。另外,它對業務數據的分析,可以實現人像識別、無人值守等附加業務功能。
基于R5360G4 服務器配合T4 GPU卡實現視頻采集、結構化分析和人工智能處理等功能。它可以將R5360G4部署在Internet或者遠端數據中心的傳統視頻業務前移到用戶網絡邊緣,從而實現視頻業務的本地化處理,具有低延時和高QoE的特點。R5360G4可以支持最多4個全高全長的PCIE插卡,支持4個T4。它可以完成視頻的拉流、編碼、解碼、轉碼、Resize等功能,大大減少主處理器的負載和實現難度,在性能功耗比上得到極大的優化。
中興通訊服務器產品擁有多項自主知識產權及專利,產品涵蓋了機架服務器、刀片服務器、GPU服務器、邊緣計算服務器,滿足互聯網、高性能計算、數據中心等多種場景的需求,并配合中興通訊的其他產品形成豐富的產品組合,滿足客戶的各種業務需求。
責任編輯:gt
-
處理器
+關注
關注
68文章
19409瀏覽量
231192 -
gpu
+關注
關注
28文章
4777瀏覽量
129360 -
服務器
+關注
關注
12文章
9308瀏覽量
86071
發布評論請先 登錄
相關推薦
評論