9月10日,奕斯偉計算開發者伙伴大會在北京亦莊舉辦。大會以“綠色、開放、融合”為主題,匯聚了EICT領域的專家、學者等重磅嘉賓,共同探討AI時代背景下RISC-V的發展機遇。Imagination作為重要生態合作伙伴受邀出席活動,與奕斯偉等業界伙伴攜手加速RISC-V在各行各業的深度融合和應用落地。
活動現場,Imagination產品管理高級總監Stephen Barton從芯片IP的角度,分享了Imagination 如何通過RSIC-V和PowerVR助力邊緣生成式AI的發展。
首先,他表示,深度學習已成為推動大型計算機工作的有效方法,這一點在傳統的高性能計算方法中是無法實現的。而邊緣設備并非大型計算機,未來AI在小型計算機上將如何發展?對此,他探討了兩種方式,一是通過更大的計算機、晶體管調度、芯粒(chiplet)堆疊、減少數值方法等提升計算性能。另一種是確保計算可以輕松擴展,并且是通用的。RISC-V則是很好的示例,作為一個不斷發展的開放標準,專注于RISC-V解決方案可以讓你充分利用系統的潛力。同時,CPU是通用的,可以用于多種場景。
在邊緣端,功耗、帶寬等資源受限,更需要確保邊緣計算的高效擴展。當運行生成式AI推理時,可能專注于峰值TOPS和帶寬,游戲也可能會占用大量的GPU資源,同時還可能有一些加密操作占用了大量CPU時間。為了保證通用性運行工作負載,并減少系統的核數量,可以通過NPU犧牲一些靈活性以實現高性能;也可以通過GPU犧牲一些芯片面積來獲得更好的PPA并擴展加速能力。
與此同時,RISC-V在邊緣計算中也發揮著重要作用。Stephen講到,向量引擎和向量擴展已成為標準的一部分。當涉及到機器學習工作負載時,RISC-V具有很大的靈活性,不需要API可直接使用。同時AI領域中RISC-V具有最低的面積開銷,等等。
最后,Stephen特別提及到Imagination與奕斯偉、SiFive的合作——奕斯偉EIC77系列,涵蓋單Die RISC-V邊緣計算芯片EIC7700及更高算力版本EIC7700X,雙 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。該系列中的圖形和計算加速功能由Imagination的GPU IP、SiFive的CPU IP,以及奕斯偉計算的專有神經網絡單元NPU無縫集成而成,可為從機器視覺應用(如行為識別和人臉識別)到大型語言模型等各種邊緣計算應用提供出色的性能。同時 Stephen 表示將全力支持奕斯偉提出并倡導的 RDI 生態系統建設。
未來Imaginaiton期待與更多伙伴合作,在邊緣計算、AI PC和AI加速等領域打造更多高性能產品,共同推動RISC—V數字基礎設施生態創新和產業發展。
-
gpu
+關注
關注
28文章
4777瀏覽量
129360 -
AI
+關注
關注
87文章
31536瀏覽量
270344 -
imagination
+關注
關注
1文章
576瀏覽量
61450
發布評論請先 登錄
相關推薦
研華科技攜手森云智能助力邊緣AI應用落地
Freepik攜手Magnific AI推出AI圖像生成器
亞馬遜云科技助力Shulex打造生成式AI應用
Imagination 引領邊緣計算和AI創新,擁抱AI未來發展
![<b class='flag-5'>Imagination</b> 引領<b class='flag-5'>邊緣</b>計算和<b class='flag-5'>AI</b>創新,擁抱<b class='flag-5'>AI</b>未來發展](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
中國開源軟件推進聯盟攜手IBM發布《可信賴的企業級生成式AI白皮書》
MediaTek攜手生態伙伴聯合發布《生成式AI手機產業白皮書》
MediaTek舉辦天璣開發者大會MDDC2024,攜手產業伙伴共創生成式AI新生態
![MediaTek舉辦天璣開發者大會MDDC2024,<b class='flag-5'>攜手</b>產業<b class='flag-5'>伙伴</b>共創<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>新<b class='flag-5'>生態</b>](https://file1.elecfans.com/web2/M00/E1/97/wKgZomY5mP6AJ5TIAAEGdqnLaTI385.jpg)
MediaTek攜手生態伙伴聯合發布《生成式AI手機產業白皮書》,共同定義生成式AI手機
研華攜手群聯 共同打造邊緣運算與工控應用生成式AI平臺
![研華<b class='flag-5'>攜手</b>群聯 共同打造<b class='flag-5'>邊緣</b>運算與工控應用<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>平臺](https://file1.elecfans.com/web2/M00/DC/4E/wKgaomYrdBmAGZa2AAKAdYB8-Lw012.jpg)
攜手打造開放AI生態,英特爾助力千行百業數智化變革
![<b class='flag-5'>攜手</b>打造開放<b class='flag-5'>AI</b><b class='flag-5'>生態</b>,英特爾<b class='flag-5'>助力</b>千行百業數智化變革](https://file1.elecfans.com//web2/M00/CF/DE/wKgZomYiKeqAZJTaAAChubiMEzg122.png)
Imagination加入“無劍聯盟” 攜手玄鐵共拓RISC-V繁榮生態
![<b class='flag-5'>Imagination</b>加入“無劍聯盟” <b class='flag-5'>攜手</b>玄鐵共拓RISC-V繁榮<b class='flag-5'>生態</b>](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
評論