電子發燒友網報道(文/周凱揚)RISC-V作為一個與x86和Arm相比仍算年輕的架構,自然需要不少擴展模塊來完善其指令集架構,尤其是對標x86與Arm的SIMD指令集。然而SIMD指令集隨著時間的發展變得越來越臃腫,讓架構變得愈發復雜,David Patterson也在幾年前的一篇文章中寫道,實現數據級并行性更優雅的方式就是向量架構,RISC-V的向量擴展(RVV)也應運而生。
在機器學習算法中,向量被廣泛用于處理數據集和數組。而RVV為基礎指令集新增了多個向量寄存器和向量指令,可以讓基于RISC-V架構的處理器核心處理數組,與傳統的標量運算一起來加速大數據集的指令運算。
RISC-V向量擴展指令于2018年推出,在經過了多個版本的迭代后,終于在幾天前進入了1.0 PB狀態。RVV工作組認同了1.0版本的穩定性,已經可以在上游軟件項目中開發相關的工具鏈、功能模擬器與實現了。而前段時間的RISC-V論壇,也展示了RISC-V在向量與機器學習上的進展。
RISC-V機器學習用于太空應用
相信不少人都注意到近期逐漸增加的各項太空探索任務,比如祝融號火星車與中國空間站建設等,這些任務中AI與機器學習的應用也開始出現。然而將AI與機器學習加入太空任務依舊面臨著諸多挑戰,比如已有的太空處理器已經無法跟上AI與ML的計算需求,但現成的商用設備既無法滿足輻射要求,也沒有太空認證的軟件棧支持。
來自加泰羅尼亞理工大學和巴塞羅那超算中心的兩位研究員Leonidas Kosmidis和Marc Solé Bonet給出了他們的創新方案,實現了在功率有限的RISC-V處理器上加速ML運算。與采用額外大面積向量寄存器文件的傳統方式不同,他們采用了一個開源的短SIMD模塊通過重復利用整數寄存器文件來減小面積。這一方案以2個未使用的RISC-V操作碼實現了17個高度可配置的定制指令,可以用于實現ML應用中200多種組合運算。
他們成功將該模塊移植到了Cobham Gaisler開發的開源RISC-V太空處理器NOEL-V上,在最小的NOEL-V處理器的配置下進行通用ML程序的測試,得出的結果相當可觀。只需多用到25%的面積,就能實現3到7倍的性能提升,還不會影響到處理器的頻率。
兩位研究員也實現了Gaisler另一個太空處理器LEON3的版本,該處理器采用的是SPARC V8的架構。未來他們還計劃引入TensorFlow和編譯器代碼生成等一系列軟件支持,并在歐洲航天局OPS-SAT實驗衛星上的FPGA上進行測試。
RISC-V向量處理器的真正挑戰
90年代可以說是DSP、CISC與DSP三家爭霸的狀態,然而到了21世紀,DSP已經越來越難突破GHz,而高頻CPU中乘積累加運算單元的流行使得DSP在性能上敗下陣來。而RISC與CISC相比的優勢在于其簡單化的特性,更容易實現高頻率。然而在向量處理器(VPU)上,必須要解決數據傳輸的問題。
傳統VPU在帶寬上的瓶頸 / 晶心科技
從數據傳輸的流程來看,系統總線已經被處理器占用處于繁忙狀態,而所有數據都通過緩存走向總線,現在又多出了向量指令和向量數據,致使總線到內存的延遲增加,整體性能下降。因此,提高總線帶寬的同時保持高頻率,又不會增加額外的功耗也就成了一大設計挑戰。傳統的解決方案有預讀取和更大的獨立內存與緩存等,但往往需要犧牲功耗和尺寸。
引入ACE解決帶寬問題 / 晶心科技
晶心科技為了解決這一挑戰,推出了晶心自定義擴展(Andes Custom Extension,ACE),這一RISC-V擴展可以創造新的指令、新的協處理器和新的內存位置。ACE引入了全新的Streaming Port,為外部硬件引擎創造了自定義數據接口和自定義數據內存,以很小的功率代價解決了數據傳輸問題。除此之外,ACE還可以用于數據預處理與后處理,比如格式轉換等,進一步提升VPU的性能,更好地控制和管理外部加速器。
結語
RISC-V在向量擴展與處理器上的進展已經相當驚人,要知道蘋果在前段時間招募RISC-V開發者的工作描述中,不僅要求掌握RISC-V的開發知識,還要求了解Arm NEON SIMD微架構的向量編程。隨著RVV的定稿,向量寄存器與指令也將全部確定下來,屆時相關的編譯器等工具鏈也能夠及時做到兼容。
聲明:本文由電子發燒友原創,轉載請注明以上來源。如需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱huangjingjing@elecfans.com。
編輯:jq
-
處理器
+關注
關注
68文章
19440瀏覽量
231326 -
數據傳輸
+關注
關注
9文章
1962瀏覽量
64867 -
AI
+關注
關注
87文章
31734瀏覽量
270522 -
機器學習
+關注
關注
66文章
8447瀏覽量
133130 -
RISC-V
+關注
關注
45文章
2329瀏覽量
46684
原文標題:向量擴展將定稿,RISC-V機器學習的崛起
文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論