邊緣計算雖然是當下的科技難題，但也為IT架構師和嵌入式開發人員提供了更多的選擇，最終，邊緣計算將會演變出邊緣AI技術，加快決策的效率和質量。

當下，科技應用對人工智能和機器學習的需求超過了對云數據庫的需求，因為對重要物聯網傳感器數據的處理越來越接近數據最初所在的位置。這一舉措將由新一代人工智能（AI）芯片實現，其中包括比GPU、FPGA和其他專門的IC類型更窄的內存和功耗要求的嵌入式微控制器，以及其他被應用于亞馬遜、微軟和谷歌的云數據中心的特定IC類型控制器，幫助數據科學家解決問題。

正是因為云服務，機器學習和相關的神經網絡才得以迅猛發展。但由于物聯網的興起造成了數據沖擊，便有了對基于邊緣計算的機器學習技術的需求。現在，云提供商、物聯網（IoT）平臺制造商和其他公司認為，在將數據移交給云進行分析之前，在邊緣網絡處理數據會存在一定的優勢，比如基于AI的決策可以減少延遲，使傳感器數據的實時響應更加可行和適用。盡管如此，人們稱之為的“邊緣AI”的形式仍然有很多種，如何利用下一代物聯網為其提供支持，在呈現高質量的可行數據方面提出了挑戰。

1、邊緣計算工作量的增長

基于邊緣網絡的機器學習可以推動物聯網市場中AI應用的顯著增長，Mordor Intelligence估計，到2026年，人工智能將以27.3%的復合年增長率增長。EclipseFoundationIoT Group research在2020年支持了這一點，該研究認為人工智能占物聯網開發人員最常引用的邊緣計算工作量的30%。對于許多應用程序來說，在云端無休止地復制并啟用并行機器學習的服務器機架是不可行的。而人工智能在邊緣網絡解析圖像數據的應用已被證明是一個有著無限潛力的領域。但是，使用物聯網設備收集的數據進行事件處理有許多復雜的處理需求。

2、邊緣計算的價值

Hyperion Research高級顧問史蒂夫康威（Steve Conway）表示，基于云端的物聯網分析仍將持續下去。但是，數據的遠距離傳輸必然帶來處理延遲，因為將數據移入和移出云端會因為往返時間產生滯后。“我們不可能將解決問題的重心放在超過光速上，”史蒂夫說“所以處理數據的層次正在往邊緣網絡發展。” 除了設備和板級實施之外，此層次結構還包括制造中的IoT網關和數據中心，這些擴展了可用于下一代IoT系統開發的架構選項。SAS已經創建了經過驗證的邊緣物聯網參考架構，客戶可以在此基礎上構建AI和分析應用，這些應用是不可能在云端高效且低成本的進行使用和分析的。所以為了在云和邊緣AI之間取得平衡，我們必須要考慮到數據量的規模性，而這就是基于邊緣的人工智能處理器在數據發到其他地方之前進行本地處理的意義所在。

3、關于AI邊緣芯片的市場競爭力

基于云的機器學習技術的興起受到高內存帶寬GPU興起的影響。這項成功引起了其他芯片制造商的關注。內部AI專用處理器緊隨其后的是超大規模云服務玩家Google、AWS和Microsoft。AI芯片之戰使得AMD、Intel、Qualcomm和ARM Technology（去年被NVIDIA收購）等領先企業并駕齊驅。反過來，Maxim Integrated、NXP Semiconductors、Silicon Labs、STM Microelectronics等嵌入式微處理器和片上系統的主流開始致力于將AI功能添加到邊緣網絡。如今，物聯網和邊緣處理需求吸引了包括EdgeQ、Graphcore、Hailo、Mythic等在內的AI芯片初創公司。目前，邊緣處理還受到限制。Hyperion的Steve Conway強調說，障礙包括可用內存、能耗和成本。

4、軟硬件的配合

Maxim Integrated公司的微控制器和軟件算法業務執行董事克里斯阿迪斯（Kris Ardis）建議，數據移動是邊緣能耗的一個因素。例如，Maxim Integrated公司發布了MAX78000，該器件將低功耗控制器與神經網絡處理器配對，可在電池供電的物聯網設備上運行，進而節省帶寬和通信消耗。與此同時，基于該芯片的單個物聯網設備可以為物聯網網關提供支持，物聯網網關也可以發揮重要作用，將來自設備的數據匯總起來，并進一步過濾可能流向云的數據，以分析整體操作。為簡化視覺系統的開發，NVIDIA推出了Jetson JetPack 4.5，其中包括其視覺編程接口（VPI）的首個生產版本。隨著時間的推移，邊緣的AI開發瑣事將更多地由IT部門來處理，而對機器學習有深入了解的AI研究人員將減少處理。

5、Tiny Machine Learning的興起

在終端和邊緣側的微處理器上實現的機器學習過程就叫做tiny Machine Learning（即tinyML）。這項技術以更低的功耗完成工作并使用有限的內存，實現了以秒為單位的推理速度。縮小神經網絡處理的規模是這里的主要目標，并且這些技術有很多種，大家致力于將邊緣機器學習的復雜性抽象提取出來。雖然研究的方向是越來越復雜的大規模AI模型，但隨著機器學習達到的黃金時段，效率又成了新的關注重心。

6、展望未來

在邊緣網絡中，采用多層神經網絡和無監督學習來識別圖像的機器視覺技術已成為AI的重要應用案例，位于最靠近數據采集處的智能攝像頭通過嵌入式硬件為深度學習增加了處理能力。雖然一些解決方案存在固有的風險，但是高的投資回報率提高了模式識別的應用可行性。所以即使物聯網本身具有一定的局限性，但是借助人工智能和機器學習、深度學習，物聯網將會被普及并且被賦予更高的價值。
責任編輯：YYX