AI在邊緣領域的優勢現在是顯而易見的。在這些領域中,實時響應起到決定性的作用。比如說,在安全敏感型應用中,既要將原始數據傳輸到云的通信成本降至最低,又要降低功耗、保護隱私并提高對多個邊緣節點的可擴展性。
對于以上這些要求,我們建議通過邊緣設備內的人工智能而不是遠程云服務來滿足。然而,一個AI引擎無法服務我們現在所知的邊緣應用范圍。家用電器可能只需要識別一組簡單的語音命令或食品容器上的圖片。更復雜的監控系統或工業機器人系統則可能需要融合圖像傳感器、麥克風、運動傳感器等的多方輸入。
就高端領域而言,自動或半自動駕駛識別系統需要用到非常復雜的深度神經網絡 (DNN)。CEVA SensPro2 和NeuPro-M平臺恰能滿足這些需求。
邊緣AI市場
自現在起至本世紀末,邊緣AI處理器芯片市場的年復合增長率預計將達到20%左右。這一增長是由智能設備采用率/發展程度不斷提高推動的,具體涉及:攝像頭、可穿戴設備和家庭自動化領域消費者;安全和自動化程度日益提高的汽車行業;行業監控、機器人、機器/工廠控制和預測性維護。
最有可能在這些領域取得成功的產品自然必須功能十足、性能強大,如此才能滿足應用這些產品的認可需求。此類產品必須根據消費者定價和/或在大規模部署時具有成本效益,同時還應該最大限度地減少現有無線基礎設施的增量負載。此類產品的軟件還必須可以升級,如此才能適應快速發展的AI技術領域的新興解決方案。
傳感器融合和SensPro2
除了最簡單的智能邊緣設備之外,其他所有設備現在都使用多個傳感器。兩個或更多傳感器的融合信息通??勺屩悄芟到y提供準確性度更高的信息或補充信息。例如,在自動平行泊車或自動代客泊車系統中,可結合使用探測可用空間的視覺傳感技術/雷達與超聲波測距技術,另外也可以結合使用IMU輸入,進一步細化定位估計結果。SLAM算法可以對這些功能形成補充,在停車場內導航以便自動代客泊車。
CEVA SensPro2傳感器中樞DSP是傳感器中樞/融合應用的完美答案。SensPro2是第二代CEVA傳感器中樞DSP,允許圖像傳感器、麥克風、雷達、飛行時間、IMU 等的多個傳感器輸入。
基于神經網絡的軟件可在這種DSP架構上快速運行。因為這種架構提供整套豐富的硬件支持功能,包括:具有靈活MAC操作范圍的矢量單元、整數和浮點運算支持、針對應用的ISA擴展和全面的非線性指令集。SensPro2可利用這些功能提供2倍的AI速度、6倍的SLAM速度、8倍的雷達速度、10倍的音頻速度(相較于上一代SensPro而言)。
在各種消費者應用中,邊緣人工智能已通過SensPro2部署到SoC,最近發布的新Novatek監控SoC版本就是一個示例。
DNN 智能和NeuPro-M
高端邊緣智能需要深度神經網絡 (DNN) 支持、高水平的并行性能和帶寬優化,以及擁有最新AI算法的異構加速器。對于第一種需求而言,自動/半自動駕駛時的可用空間檢測是一個不錯的應用示例。此檢測目的在于沿著公路/高速公路的安全駕駛區域行駛,避開障礙物,避免駛上對向車道、未鋪砌的路肩和隔離帶。在這種情況下必須迅速響應,因此會將前方道路圖像分解為4個子幀,對其進行并行處理。之后再在每個子圖像上運行可用空間檢測,并重新組合以提供完整的結果。對于邊緣應用中的此類人工智能而言,NeuPro-M可支持多達8個并行運行的引擎。
大家對精度和性能的期望遠不止并行這么簡單。如今的網絡開發人員希望利用現在NeuPro-M中采用硬件加速的專用功能,如矩陣分解、稀疏、Winograd及混合精度的神經操作,且以上所有功能都可以在每個并行引擎中使用。
NeuPro-M于2022年發布,榮獲了“亞洲金選獎”之“金選潛力標桿獎”及“2022年邊緣人工智能與視覺聯盟產品獎”之“年度最佳邊緣AI處理器榮譽獎”。目前已部署在設計中的多個SoC中,并預計會在未來幾年出現在最終產品中。
面向未來的解決方案
在標準CPU或GPU上運行的純軟件AI解決方案效率過低,功耗又大,不太實用,但在理論上來說又具有一定的吸引力,因為您可以隨時更改軟件,而無需更改硬件。隨著AI技術和網絡層的發展,能否在獲得硬件加速帶來的所有性能和功耗優勢的同時,保持靈活升級?
SensPro2和NeuPro-M能夠做到這一點。這些AI解決方案的矢量DSP基礎確保您能夠隨著市場需求和網絡的發展,在軟件中對產品實施進行升級。CEVA的深度神經網絡 (CDNN) AI編譯器簡化了從標準網絡(TensorFlow、PyTorch等)實施到在特定SoC中實施時映射到處理器IP的一應事宜。
您也可以在此步驟中控制優化,以充分利用特殊加速器(如NeuPro-M中的加速器),或添加您在設計中可能需要的、自己的加速器。CEVA CDNN-Invite API為此類擴展提供支持。
識別右側二維碼
立即了解
CEVA更多信息


關于CEVA
CEVA 是排名前列的無線連接和智能傳感技術以及集成 IP 解決方案授權商,旨在打造更智能、更安全、互聯的世界。我們為傳感器融合、圖像增強、計算機視覺、語音輸入和人工智能應用提供數字信號處理器、人工智能處理器、無線平臺、加密內核和配套軟件。這些技術與我們的 Intrinsix IP 集成服務一起提供給客戶,幫助他們解決復雜和時間關鍵的集成電路設計項目。許多世界排名前列的半導體廠商、系統公司和OEM利用我們的技術和芯片設計技能,為移動、消費、汽車、機器人、工業、航天國防和物聯網等各種終端市場開發高能效、智能、安全的互聯設備。
我們基于 DSP 的解決方案包括移動、物聯網和基礎設施中的 5G 基帶處理平臺;攝像頭設備的高級影像技術和計算機視覺;適用于多個物聯網市場的音頻/語音/話音應用和超低功耗的始終開啟/感應應用。對于傳感器融合,我們的 Hillcrest Labs 傳感器處理技術為耳機、可穿戴設備、AR/VR、PC機、機器人、遙控器、物聯網等市場提供廣泛的傳感器融合軟件和慣性測量單元 (“IMU”) 解決方案。在無線物聯網方面,我們的藍牙(低功耗和雙模)、Wi-Fi 4/5/6/6E (802.11n/ac/ax)、超寬帶(UWB)、NB-IoT和GNSS 平臺是業內授權較為廣泛的連接平臺。
歡迎點亮“在看”哦

原文標題:邊緣人工智能,從傳感器融合到深度神經網絡
文章出處:【微信公眾號:CEVA】歡迎添加關注!文章轉載請注明出處。
-
dsp
+關注
關注
555文章
8144瀏覽量
355329 -
藍牙
+關注
關注
116文章
6036瀏覽量
173218 -
CEVA
+關注
關注
1文章
189瀏覽量
76448
原文標題:邊緣人工智能,從傳感器融合到深度神經網絡
文章出處:【微信號:CEVA-IP,微信公眾號:CEVA】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
看智能傳感器如何推動邊緣人工智能普及化

在邊緣設備上設計和部署深度神經網絡的實用框架
嵌入式和人工智能究竟是什么關系?
Moku人工神經網絡101

評論