人工智能研究現在提供了使用數千小時的強大計算資源來訓練和完善神經網絡的可能性,然后神經網絡將能夠在廉價、低功耗設備上運行。
人工智能開始從云端轉移到邊緣。人工智能研究現在提供了一種有趣的可能性,即使用數千小時的強大計算資源來訓練和完善神經網絡,然后能夠在廉價、低功耗設備上運行。這使得邊緣AI設備成為可能,即使在離線時也可以運行,因此網絡連接不是必需的。這種方法利用了進化式神經網絡訓練技術(如對抗性神經網絡)的強大功能。
對能源和存儲使用有限制的神經網絡訓練過程自然會創建一個神經網絡,將其有限的資源集中在更有用的路徑上,同時修剪不太重要的區域。此過程非常適合創建在低功耗、低成本設備上運行的網絡。隨后,神經網絡壓縮技術可以進一步壓縮經過訓練的網絡,將內存需求降低多達 90%,同時幾乎不會影響性能——類似的技術也有助于減少計算負載。
神經網絡壓縮可以像降低變量精度一樣簡單,但也包括分析、重組和修剪網絡。令人驚訝的結果是,海量計算能力(也許也可以被描述為“智能和經驗”)可能會被提煉成一種在廉價、低功耗設備上運行的形式。(事實上,從廣義上講,我們可以將這種方法與數十億年的對抗性進化相提并論,后者最終將智能生命封裝在微小的DNA鏈中)。
如果你認為人工智能意味著一種學習和改進的人類式智能,那么這種邊緣計算策略的目標似乎違反直覺。這是因為許多簡單的邊緣應用程序最好由部署后不會發生顯著變化或改進的設備提供服務——我們只希望它們能夠可靠且可預測地執行任務。
對于低成本邊緣設備和物聯網設備的開發人員來說,人工智能工具包正在不斷擴大,價格也在下降。新產品范圍從支持AI的FPGA到神經網絡加速器,如Redpine的QueSSence智能連接平臺,以及研揚科技UP AI Core X系列,這些系列為典型的低功耗計算和連接模塊添加了AI加速功能,非常適合物聯網邊緣設備。
人工智能使革命性的新產品成為可能
想象一下,添加 AI 如何增強日常設備和物聯網。板載低成本人工智能可以改變最普通的設備 - 例如,為交換機添加可靠的語音識別以實現免提操作 - 但讓我們也看看一些更復雜的潛在應用:
配備人工智能的安全攝像頭可以快速學會識別熟悉的面孔、寵物等,并在看到意外的人或動物時觸發警報。即使在斷開電源和網絡連接的情況下,也能決定是否發出警報,這對于安全設備來說顯然是一個加分項!借助機器學習技術,這種智能安全攝像頭的作用可以遠遠超出傳統的自動攝像頭,例如,它可以識別和警告火災、泄漏、結構故障(如屋頂或窗戶損壞)以及各種其他危險和事件。
訓練有素的發動機監控系統可以使用其機載 AI 功能通過集成傳感器讀數、分析振動模式和其他線索來檢測異常并優化性能。這種來自廣泛傳感器融合的分析超出了傳統算法的能力,在某些情況下可能超過人類工程師的表現。本地化 AI 在沒有網絡連接的情況下工作的能力允許超低延遲響應,以實時微調性能,并且在由于遠程位置或射頻干擾而導致網絡連接困難的情況下以及在車輛和飛機等移動應用中,這是一個巨大的優勢。
機器中的幽靈:問題和解決方案
人工智能可能是不可預測的,并且在我們沒有機會測試的邊緣情況下可能會出錯。請考慮緩解此問題的方法,例如為用戶提供回退模式。這可能允許他們關閉“智能”AI,并允許設備回退到依賴更簡單的老式算法,因此它仍然有效且有用,盡管沒有先進的AI功能。此外,雖然板載智能是一個關鍵賣點,但開發人員仍然可以權衡何時在邊緣做出決策以及何時將它們推回云端或請求人工指導的利弊(事實上,這種選擇本身可能由設備上的人工智能實時指導)。
啞設備即將變得智能
將強大的、預先訓練好的人工智能打包成低功耗、低成本設備的潛力為改造普通商品設備、為其增加價值以及開發新產品和新市場提供了幾乎無限的機會。
審核編輯:郭婷
-
FPGA
+關注
關注
1643文章
21983瀏覽量
614608 -
AI
+關注
關注
88文章
34421瀏覽量
275725
發布評論請先 登錄
ESP32P4小智AI演示
如何利用AI創造更多無限可能
利用RAKsmart服務器托管AI模型訓練的優勢
行業集結:共同定制 RK3566 集成 AI 眼鏡的前沿 AR 方案
AI云平臺的核心優勢
云端AI開發環境的優勢
AI云端計算資源的多維度優勢
AI大模型在圖像識別中的優勢
AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感
利用TPS61299在智能手表應用中獲得快速瞬態性能優勢

評論