電子發燒友網報道(文/李彎彎)GPU中文叫圖形處理單元,是一種并行處理的硬件,早起只用來渲染復雜的計算機圖形環境。隨著技術進步,GPU不再局限于圖形領域,擴展應用到其他計算密集的領域,被稱為GPGPU,成為AI 芯片領域的代表。
GPU具有很好的通用性,同時傳統的架構也存在一定局限,比如計算密度低、效率低,如何在保證通用性的情況下,又提高它的計算效率成為業界關注的重點。
創新架構提高AI計算效率
那么應該如何做呢?為了提高GPU的計算效率,GPU知名企業英偉達也進行的相應的嘗試,即對原來的GPU架構進行修改,比如增加專門的張量計算單元、增加片上內存器等,這一定程度可以提高AI的計算效率,不過受限于GPU整體架構,問題并沒有得到很好的解決。
圖:傳統GPU對AI加速的局限體現在哪些方面(圖片來自登臨科技分享)
成立于2017年的登臨科技,從2018年自主研發創新性的GPU+架構,一款由軟件定義的、片內異構的支持并行化計算的架構。GPU+架構針對AI應用,具備和GPU一樣的可編程能力和通用性。同時通過架構創新,提供更高的計算密度,更快的計算速度,同時大幅降低對外部帶寬的需求。而這些是傳統GPU芯片無法兼顧的。
由于GPU良好的通用性,在服務器及云端等使用場景中,會大規模應用 GPU。運行各類神經網絡。大量開源生態的應用、大量客戶定制化的軟件,都是在主流的GPU軟件生態上完成。如何保持客戶已有的投入,即如何減少客戶的使用成本,也是AI技術產業化的重要課題。
怎么做呢?登臨科技在接受電子發燒友采訪的時候表示,登臨自主創新的GPU+架構,通過對高效的Tensor引擎和可編程的GPGPU引擎的有機配合,硬件直接兼容CUDA/OpenCL,可無縫接入現有軟件生態,大大降低了客戶的遷移成本。
通過片內異構,GPU+解決了傳統的系統級異構計算調度,數據交換的開銷大,以及數據的連貫相干性的難題。在整個系統的計算密度極高的基礎上,通過軟件定義,使針對不同神經網絡的應用場景,都能達到硬件性能和能效最大化。
登臨科技表示,通過大規??蛻魧崪y,在同等功耗下,GPU+的性能可以達到國際主流產品3倍以上的能效。
打造真正符合市場需求的產品
登臨科技成立以后,一直思考如何制定真正符合市場需求的技術路線,即上文所談的如何保持客戶已有的投入,減少客戶的使用成本,這是登臨科技制定產品的價值導向。
2018年登臨確定了產品的方向:基于GPGPU的高能效計算,并自主研發創新的GPU+架構。經過團隊一年多的工作,于2019年6月,公司完成了首款基于GPU+架構的Goldwasser設計,并mpw流片成功。
2020年6月Goldwasser成功回片通過測試,開始客戶送樣,Goldwasser目前已在成熟的12nm/14nm工藝上實現量產。登臨Goldwasser已于2021年在智慧城市、互聯網等領域順利實現了商業化落地,并同時與數十家客戶在邊緣至云端的不同應用場景中進行產品開發、測試。
登臨科技的Goldwasser 系列產品包括:邊緣計算產品 Goldwasser UL,功率 25-35W,INT8 算力 32-64TOPS;半高半長的服務器計算卡 Goldwasser L,功耗 40-70W,提供 128-256TOPS 算力;另有一種全高全長的 Goldwasser XL,輸出 512TOPS 算力。多種規格的產品,使得客戶可以根據自身需求分別部署在邊緣側、云端的各種計算設備中。
登臨科技方案架構總監鄭韜此前在某論壇上也介紹過,Goldwasser覆蓋主流系統生態,登臨Hamming軟件開發包支持主流GPU編程語言,包括CUDA、OpenCL等;適配國內外主流服務器廠家;支持主流國內外AI計算框架,包括PyTorch、百度飛漿、TensorFlow等;適配國內外主流CPU廠家,包括飛騰、龍芯、英特爾、AMD等。
在不同的應用場景下,Goldwasser可以支持多種不同的算法實現和落地,如智慧城市、智能交通、語音識別、虛擬客服、智慧工地、智慧車站、機器翻譯、工業視覺等,場景覆蓋CV、NLP、知識圖譜、信號處理和計算等多個領域。Goldwasser可以同時支持訓練和推理。
登臨科技表示,目前Goldwasser正與30多家不同行業的頭部企業進行量產導入。同時,登臨科技打通供應鏈上下游相關企業和合作伙伴,確保產品正常交付。
小結
當前AI技術正快速發展,GPGPU呈現出強勁的增長勢頭,根據有關數據預測,到2025年,我國GPGPU芯片板卡的市場規模將達458億元,年復合增長率高達32%,未來市場可觀。
目前國際巨頭占據大部分市場,與之相比國內廠商還存在差距,不過近幾年不少國內GPU廠商通過自主創新,在技術上逐漸取得進展,產品也逐步走向落地商用,比如登臨科技。
另外,對于政府目前重點關注的降碳增效,登臨科技表示,對計算芯片而言關鍵指標是能效比,而這也是公司產品的最重要的優勢之一,登臨將繼續通過對傳統GPU的架構創新,不斷提升異構硬件的算力,達到非常顯著的能效比優勢,為降碳和增效做貢獻。
發布評論請先 登錄
相關推薦
評論