現在幾乎所有高端智能手機的圖像處理子系統都集成了神經網絡。語音記錄和語音處理專家會爭辯說，我們現在所說的人工智能已經在邊緣運行了多年。

　　然而，在大多數情況下，這些應用程序利用了并非為現代 AI 工作負載設計的 SoC 和 DSP。隨著人工智能技術和部署的進步，一些新的工程挑戰出現了：

　　需要始終在線的超低功耗系統，該系統可以長時間依靠電池供電并為推理提供快速響應時間

　　對保護機器學習圖免遭篡改或盜竊的集成安全性要求

　　對能夠適應 AI 模型和算法快速變化的靈活解決方案的需求

　　這些趨勢提高了 IP 和處理器供應商的風險，這些供應商希望為嵌入式 AI 市場提供服務，預計到 2024 年，該市場的價值將達到 46 億美元。這些公司現在正在提供高度集成的、專門構建的計算解決方案，以搶占該業務的份額。

　　拔掉電源

　　隨著人工智能被部署在像助聽器一樣受限的設備中，功耗已成為推理平臺的首要考慮因素。Eta Compute 已將獲得專利的動態電壓頻率縮放 （DVFS） 技術整合到其多核 SoC 中，以服務于這些用例。

　　為了節省電力，許多傳統處理器包括睡眠功能，當負載存在時喚醒內核。然而，這些設備中的大多數都以峰值速率運行內核，這當然需要額外的功率。

　　借助 DVFS，Eta Compute 設備會根據當前工作負載連續切換電壓供應，但僅切換到在足夠長的時間內執行任務所需的最低功率。該公司的 ECM3531 基于 Arm Cortex-M3 和 NXP CoolFlux DSP，因此能夠以 1 μW 的功耗提供 200 kSps 的 12 位分辨率。

　　數據集鎖定

　　已發現在推理操作期間引用的片上訓練數據集是可利用的。對于大多數可能被盜的 AI 公司來說，這些數據集代表了極具價值的知識產權。但是更改圖像識別數據集中的像素可能會使推理引擎錯誤地識別對象或根本無法識別它們。

　　一個廣為人知的例子發生在研究人員欺騙谷歌人工智能相信步槍是一架直升機時，但想象一下自動駕駛汽車人工智能是否認為行人是一個垃圾袋？更可怕的是，試圖調試軟件的人類工程師通常無法檢測到像素變化。

　　Synopsys 的 DesignWare EV7x 處理器等 IP 模塊包括視覺引擎、DNN 加速器和緊密耦合的內存，可提供高達 35 TOPS 的節能性能。然而，EV7x 處理器的一個低調特性是可選的 AES-XTS 加密引擎，它有助于保護從片上存儲器傳遞到視覺引擎或 DNN 加速器的數據。

　　未來模型的靈活性

　　從 DNNs 到 RNNs 再到 LSTMs，在過去的幾年里出現了幾十種神經網絡類型。雖然這些象征著人工智能軟件和算法領域令人興奮的創新，但它們也引發了針對特定類型工作負載進行優化的計算設備的重大問題。

　　ASIC 從設計到流片可能需要六個月到兩年的時間，這可能會加速高度專業化解決方案的過時。正是由于這個原因，FPGA 在人工智能工程領域獲得了巨大的吸引力。

　　Xilinx 器件（如流行的 Zynq 和 MPSoC 平臺）可進行硬件和軟件重新編程。這意味著邏輯塊可以針對當今領先的神經網絡進行優化，然后在算法發展后的數月或數年內重新配置。

　　但是一個稱為動態功能交換 （DFX） 的功能允許系統下載部分位文件，這些文件可以動態修改邏輯塊。這可能在設備部署和運行時發生，本質上是添加、刪除或更改單個 Xilinx 設備的功能。

　　邊緣的生產就緒型 AI

　　現在對 AI 邊緣計算的期望與我們幾年前對物聯網的預測相似。就像數以萬億計的“事物”將被連接起來一樣，我們假設其中絕大多數將是（人工）智能的。

　　雖然上一代解決方案奠定了基礎，但下一代解決方案需要一套新功能來確保商業成功。處理器和 IP 供應商正在通過將越來越多的功能集成到 AI 邊緣計算設備中來做出回應。

　　審核編輯：郭婷