新興的人工智能應用將依賴于具有可配置加速的片上系統設備，以滿足日益嚴格的性能和效率要求。

　　隨著智能安全、機器人或自動駕駛等應用越來越依賴嵌入式人工智能 （AI） 來提高性能并提供新的用戶體驗，托管在傳統計算平臺上的推理引擎可能難以在功率限制越來越嚴格的情況下滿足現實世界的需求，延遲和物理尺寸。它們受到嚴格定義的推理精度、總線寬度和內存的影響，無法輕松調整以優化最佳速度、效率和芯片面積。需要一個適應性強的計算平臺來滿足對嵌入式 AI 運行最先進的卷積神經網絡 （CNN） 的需求。

　　展望未來，適應更先進的神經網絡的靈活性是一個主要問題。今天流行的 CNN 正以更快的速度被新的最先進的架構所取代。然而，傳統的 SoC 必須使用當前神經網絡架構的知識進行設計，從開發開始之日起，目標通常是在未來大約三年內部署。新型神經網絡（例如 RNN 或膠囊網絡）可能會使傳統的 SoC 效率低下，并且無法提供保持競爭力所需的性能。

　　如果嵌入式人工智能要滿足最終用戶的期望，并且——也許更重要的是——在可預見的未來隨著需求的不斷發展而跟上步伐，就需要一個更靈活、更具適應性的計算平臺。這可以通過利用用戶可配置的多核片上系統 （MPSoC） 設備來實現，該設備將主應用處理器與可擴展的可編程邏輯架構集成在一起，該架構包含可配置的內存架構和適用于可變精度推理的信號處理。

　　推理精度

　　在傳統的 SoC 中，諸如內存結構和計算精度等性能定義特性是固定的。最小值通常為 8 位，由核心 CPU 定義，盡管任何給定算法的最佳精度可能較低。MPSoC 允許將可編程邏輯優化到晶體管級別，如果需要，可以自由地將推理精度更改為低至 1 位。這些設備還包含數千個可配置的 DSP 片，以有效地處理乘法累加 （MAC） 計算。

　　如此精確地優化推理精度的自由度會產生符合平方律的計算效率：在 1 位內核中執行的一位操作最終只需要在 8 位內核中完成相同操作所需的邏輯的 1/64位核心。此外，MPSoC 允許針對神經網絡的每一層對推理精度進行不同的優化，從而以盡可能高的效率提供所需的性能。

　　內存架構

　　除了通過改變推理精度來提高計算效率外，配置可編程片上存儲器的帶寬和結構還可以進一步提高嵌入式 AI 的性能和效率。與運行相同推理引擎的傳統計算平臺相比，定制的 MPSoC 可以具有四倍以上的片上內存和六倍的內存接口帶寬。內存的可配置性允許用戶減少瓶頸并優化芯片資源的利用率。此外，典型的子系統只有有限的片上集成緩存，并且必須經常與片外存儲交互，這增加了延遲和功耗。在 MPSoC 中，大多數內存交換都可以在芯片上進行，這不僅速度更快，而且可以節省 99% 以上的片外內存交互功耗。

　　硅片區

　　解決方案的大小也正成為一個越來越重要的考慮因素，尤其是對于車載無人機、機器人或自主/自動駕駛車輛的移動 AI。在 MPSoC 的 FPGA 架構中實現的推理引擎可以占用傳統 SoC 芯片面積的八分之一，從而允許開發人員在更小的設備中構建更強大的引擎。

　　此外，MPSoC 器件系列可以為設計人員提供多種選擇，以能夠滿足系統性能要求的最具功耗、成本和尺寸效率的選項來實施推理引擎。還有一些符合汽車標準的部件，其硬件功能安全特性根據行業標準 ISO 26262 ASIL-C 安全規范進行了認證，這對于自動駕駛應用非常重要。一個例子是賽靈思的汽車 XA Zynq UltraScale+ 系列，它包含基于 64 位四核 ARM Cortex-A53 和雙核 ARM Cortex-R5 的處理系統以及可擴展的可編程邏輯結構，從而有機會整合控制處理、機器-學習算法，以及在單芯片中具有容錯能力的安全電路。

　　如今，嵌入式推理引擎可以在單個 MPSoC 設備中實現，功耗低至 2 瓦，這對于移動機器人或自動駕駛等應用來說是一個合適的功率預算。即使是現在，傳統的計算平臺也無法在這些功率水平上運行實時 CNN 應用程序，并且不太可能在未來更具挑戰性的功率限制下滿足對更快響應和更復雜功能的日益嚴格的要求。基于可編程 MPSoC 的平臺也可以在 15W 以上的功率水平下提供更高的計算性能、更高的效率和尺寸/重量優勢。

　　這種可配置的、多并行計算架構的優勢僅具有學術興趣，開發人員無法在自己的項目中輕松應用它們。成功取決于合適的工具來幫助開發人員優化其目標推理引擎的實現。為滿足這一需求，賽靈思繼續擴展其開發工具和機器學習軟件堆棧生態系統，并與專業合作伙伴合作，以簡化和加速計算機視覺和視頻監控等應用的實施。

　　未來的靈活性

　　利用 SoC 的可配置性為手頭的應用程序創建最佳平臺還為 AI 開發人員提供了靈活性，以跟上神經網絡架構的快速發展。該行業遷移到新型神經網絡的潛力對平臺開發人員來說是一個重大風險?？芍匦屡渲玫?MPSoC 使開發人員能夠靈活地響應神經網絡構建方式的變化，通過重新配置以使用任何當代最先進的策略構建最高效的處理引擎。

　　人工智能越來越多地嵌入到工業控制、醫療設備、安全系統、機器人和自動駕駛汽車等設備中。在 MPSoC 器件中利用可編程邏輯結構的自適應加速是提供保持競爭力所需的響應性和高級功能的關鍵

　　審核編輯：郭婷