邊緣計算雖然是當(dāng)下的科技難題，但也為IT架構(gòu)師和嵌入式開發(fā)人員提供了更多的選擇，最終，邊緣計算將會演變出邊緣AI技術(shù)，加快決策的效率和質(zhì)量。

當(dāng)下，科技應(yīng)用對人工智能和機(jī)器學(xué)習(xí)的需求超過了對云數(shù)據(jù)庫的需求，因為對重要物聯(lián)網(wǎng)傳感器數(shù)據(jù)的處理越來越接近數(shù)據(jù)最初所在的位置。這一舉措將由新一代人工智能（AI）芯片實現(xiàn)，其中包括比GPU、FPGA和其他專門的IC類型更窄的內(nèi)存和功耗要求的嵌入式微控制器，以及其他被應(yīng)用于亞馬遜、微軟和谷歌的云數(shù)據(jù)中心的特定IC類型控制器，幫助數(shù)據(jù)科學(xué)家解決問題。

正是因為云服務(wù)，機(jī)器學(xué)習(xí)和相關(guān)的神經(jīng)網(wǎng)絡(luò)才得以迅猛發(fā)展。但由于物聯(lián)網(wǎng)的興起造成了數(shù)據(jù)沖擊，便有了對基于邊緣計算的機(jī)器學(xué)習(xí)技術(shù)的需求。現(xiàn)在，云提供商、物聯(lián)網(wǎng)（IoT）平臺制造商和其他公司認(rèn)為，在將數(shù)據(jù)移交給云進(jìn)行分析之前，在邊緣網(wǎng)絡(luò)處理數(shù)據(jù)會存在一定的優(yōu)勢，比如基于AI的決策可以減少延遲，使傳感器數(shù)據(jù)的實時響應(yīng)更加可行和適用。盡管如此，人們稱之為的“邊緣AI”的形式仍然有很多種，如何利用下一代物聯(lián)網(wǎng)為其提供支持，在呈現(xiàn)高質(zhì)量的可行數(shù)據(jù)方面提出了挑戰(zhàn)。

1、邊緣計算工作量的增長

基于邊緣網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)可以推動物聯(lián)網(wǎng)市場中AI應(yīng)用的顯著增長，Mordor Intelligence估計，到2026年，人工智能將以27.3%的復(fù)合年增長率增長。EclipseFoundationIoT Group research在2020年支持了這一點，該研究認(rèn)為人工智能占物聯(lián)網(wǎng)開發(fā)人員最常引用的邊緣計算工作量的30%。對于許多應(yīng)用程序來說，在云端無休止地復(fù)制并啟用并行機(jī)器學(xué)習(xí)的服務(wù)器機(jī)架是不可行的。而人工智能在邊緣網(wǎng)絡(luò)解析圖像數(shù)據(jù)的應(yīng)用已被證明是一個有著無限潛力的領(lǐng)域。但是，使用物聯(lián)網(wǎng)設(shè)備收集的數(shù)據(jù)進(jìn)行事件處理有許多復(fù)雜的處理需求。

2、邊緣計算的價值

Hyperion Research高級顧問史蒂夫康威（Steve Conway）表示，基于云端的物聯(lián)網(wǎng)分析仍將持續(xù)下去。但是，數(shù)據(jù)的遠(yuǎn)距離傳輸必然帶來處理延遲，因為將數(shù)據(jù)移入和移出云端會因為往返時間產(chǎn)生滯后。“我們不可能將解決問題的重心放在超過光速上，”史蒂夫說“所以處理數(shù)據(jù)的層次正在往邊緣網(wǎng)絡(luò)發(fā)展。” 除了設(shè)備和板級實施之外，此層次結(jié)構(gòu)還包括制造中的IoT網(wǎng)關(guān)和數(shù)據(jù)中心，這些擴(kuò)展了可用于下一代IoT系統(tǒng)開發(fā)的架構(gòu)選項。SAS已經(jīng)創(chuàng)建了經(jīng)過驗證的邊緣物聯(lián)網(wǎng)參考架構(gòu)，客戶可以在此基礎(chǔ)上構(gòu)建AI和分析應(yīng)用，這些應(yīng)用是不可能在云端高效且低成本的進(jìn)行使用和分析的。所以為了在云和邊緣AI之間取得平衡，我們必須要考慮到數(shù)據(jù)量的規(guī)模性，而這就是基于邊緣的人工智能處理器在數(shù)據(jù)發(fā)到其他地方之前進(jìn)行本地處理的意義所在。

3、關(guān)于AI邊緣芯片的市場競爭力

基于云的機(jī)器學(xué)習(xí)技術(shù)的興起受到高內(nèi)存帶寬GPU興起的影響。這項成功引起了其他芯片制造商的關(guān)注。內(nèi)部AI專用處理器緊隨其后的是超大規(guī)模云服務(wù)玩家Google、AWS和Microsoft。AI芯片之戰(zhàn)使得AMD、Intel、Qualcomm和ARM Technology（去年被NVIDIA收購）等領(lǐng)先企業(yè)并駕齊驅(qū)。反過來，Maxim Integrated、NXP Semiconductors、Silicon Labs、STM Microelectronics等嵌入式微處理器和片上系統(tǒng)的主流開始致力于將AI功能添加到邊緣網(wǎng)絡(luò)。如今，物聯(lián)網(wǎng)和邊緣處理需求吸引了包括EdgeQ、Graphcore、Hailo、Mythic等在內(nèi)的AI芯片初創(chuàng)公司。目前，邊緣處理還受到限制。Hyperion的Steve Conway強(qiáng)調(diào)說，障礙包括可用內(nèi)存、能耗和成本。

4、軟硬件的配合

Maxim Integrated公司的微控制器和軟件算法業(yè)務(wù)執(zhí)行董事克里斯阿迪斯（Kris Ardis）建議，數(shù)據(jù)移動是邊緣能耗的一個因素。例如，Maxim Integrated公司發(fā)布了MAX78000，該器件將低功耗控制器與神經(jīng)網(wǎng)絡(luò)處理器配對，可在電池供電的物聯(lián)網(wǎng)設(shè)備上運行，進(jìn)而節(jié)省帶寬和通信消耗。與此同時，基于該芯片的單個物聯(lián)網(wǎng)設(shè)備可以為物聯(lián)網(wǎng)網(wǎng)關(guān)提供支持，物聯(lián)網(wǎng)網(wǎng)關(guān)也可以發(fā)揮重要作用，將來自設(shè)備的數(shù)據(jù)匯總起來，并進(jìn)一步過濾可能流向云的數(shù)據(jù)，以分析整體操作。為簡化視覺系統(tǒng)的開發(fā)，NVIDIA推出了Jetson JetPack 4.5，其中包括其視覺編程接口（VPI）的首個生產(chǎn)版本。隨著時間的推移，邊緣的AI開發(fā)瑣事將更多地由IT部門來處理，而對機(jī)器學(xué)習(xí)有深入了解的AI研究人員將減少處理。

5、Tiny Machine Learning的興起

在終端和邊緣側(cè)的微處理器上實現(xiàn)的機(jī)器學(xué)習(xí)過程就叫做tiny Machine Learning（即tinyML）。這項技術(shù)以更低的功耗完成工作并使用有限的內(nèi)存，實現(xiàn)了以秒為單位的推理速度。縮小神經(jīng)網(wǎng)絡(luò)處理的規(guī)模是這里的主要目標(biāo)，并且這些技術(shù)有很多種，大家致力于將邊緣機(jī)器學(xué)習(xí)的復(fù)雜性抽象提取出來。雖然研究的方向是越來越復(fù)雜的大規(guī)模AI模型，但隨著機(jī)器學(xué)習(xí)達(dá)到的黃金時段，效率又成了新的關(guān)注重心。

6、展望未來

在邊緣網(wǎng)絡(luò)中，采用多層神經(jīng)網(wǎng)絡(luò)和無監(jiān)督學(xué)習(xí)來識別圖像的機(jī)器視覺技術(shù)已成為AI的重要應(yīng)用案例，位于最靠近數(shù)據(jù)采集處的智能攝像頭通過嵌入式硬件為深度學(xué)習(xí)增加了處理能力。雖然一些解決方案存在固有的風(fēng)險，但是高的投資回報率提高了模式識別的應(yīng)用可行性。所以即使物聯(lián)網(wǎng)本身具有一定的局限性，但是借助人工智能和機(jī)器學(xué)習(xí)、深度學(xué)習(xí)，物聯(lián)網(wǎng)將會被普及并且被賦予更高的價值。
責(zé)任編輯：YYX