作者：e絡(luò)盟技術(shù)團(tuán)隊(duì)

AI與物聯(lián)網(wǎng)系統(tǒng)的融合改變了數(shù)據(jù)的處理、分析與使用方式。多年以來，各種 AI解決方案始終基于云端部署，而如今邊緣 AI的興起，在提升運(yùn)行效率、增強(qiáng)安全性和改善運(yùn)營可靠性方面提供了頗有潛力的解決方案。本文旨在深入剖析邊緣 AI的復(fù)雜性，探究其構(gòu)成要素、應(yīng)用優(yōu)勢及其快速演進(jìn)的硬件支持體系。

AI演變：從云端到邊緣

傳統(tǒng)物聯(lián)網(wǎng)設(shè)備直接依賴云端基礎(chǔ)設(shè)施進(jìn)行 AI處理。邊緣設(shè)備傳感器產(chǎn)生的數(shù)據(jù)需要傳輸至云端進(jìn)行分析和推理運(yùn)算。然而，隨著物聯(lián)網(wǎng)應(yīng)用對網(wǎng)絡(luò)邊緣實(shí)時(shí)決策需求的激增，這種模式面臨著嚴(yán)峻挑戰(zhàn)。涉及到海量的數(shù)據(jù)規(guī)模、延遲問題以及帶寬限制，這讓云端處理模式在許多應(yīng)用場景中難以為繼。

邊緣AI的出現(xiàn)，將處理能力更靠近數(shù)據(jù)源——也就是物聯(lián)網(wǎng)設(shè)備本身。這樣的轉(zhuǎn)變減少了持續(xù)將數(shù)據(jù)傳輸?shù)皆贫说男枨螅?shí)現(xiàn)了一種對許多應(yīng)用至關(guān)重要的實(shí)時(shí)處理方式，例如自動(dòng)駕駛汽車、工業(yè)自動(dòng)化和醫(yī)療保健等領(lǐng)域。

邊緣 AI系統(tǒng)的核心組件

邊緣 AI系統(tǒng)由專用硬件與軟件組件構(gòu)成，具備本地化采集、處理和分析傳感器數(shù)據(jù)等核心能力。邊緣 AI模型通常包含以下要素：

• 數(shù)據(jù)采集硬件：若未配備專用傳感器并集成處理單元及存儲(chǔ)器，數(shù)據(jù)采集將無法實(shí)現(xiàn)。現(xiàn)代傳感器內(nèi)置數(shù)據(jù)處理能力，可對數(shù)據(jù)進(jìn)行初步篩選與轉(zhuǎn)換。
• 訓(xùn)練與推理模型：邊緣設(shè)備需搭載預(yù)訓(xùn)練的專用場景模型。由于邊緣設(shè)備的計(jì)算資源有限，可在訓(xùn)練階段根據(jù)特征選擇和轉(zhuǎn)換對模型進(jìn)行訓(xùn)練，以提升其性能表現(xiàn)。
• 應(yīng)用軟件：邊緣設(shè)備上的軟件通過微服務(wù)觸發(fā) AI處理，微服務(wù)通常基于用戶請求來調(diào)用；此類軟件可運(yùn)行訓(xùn)練階段就已具備定制化功能和聚合特性的 AI模型。

圖 1：邊緣 AI 工作流程

邊緣 AI的優(yōu)勢

與傳統(tǒng)云端模型相比，邊緣 AI具有許多顯著優(yōu)勢：

• 安全性提升：本地?cái)?shù)據(jù)處理降低了敏感信息在云端傳輸過程中的泄露風(fēng)險(xiǎn)。
• 運(yùn)行可靠性增強(qiáng)：邊緣 AI系統(tǒng)減少了對網(wǎng)絡(luò)連接的依賴，在間歇性或低帶寬的網(wǎng)絡(luò)環(huán)境下仍能保持穩(wěn)定運(yùn)行。
• 靈活性：邊緣 AI支持根據(jù)具體應(yīng)用需求定制模型與功能，這對需求各異的多樣化物聯(lián)網(wǎng)環(huán)境至關(guān)重要。
• 低延遲：該模式將數(shù)據(jù)處理與決策時(shí)間降至最低限度，是契合自動(dòng)駕駛和醫(yī)療診斷等實(shí)時(shí)應(yīng)用的關(guān)鍵特性。

圖2

實(shí)施邊緣 AI所面臨的挑戰(zhàn)

盡管邊緣 AI具備諸多顯著優(yōu)勢，其實(shí)施仍面臨多重挑戰(zhàn)。為邊緣設(shè)備開發(fā)機(jī)器學(xué)習(xí)模型，意味著需要處理海量數(shù)據(jù)、選擇合適的算法，并優(yōu)化模型以適應(yīng)受限的硬件環(huán)境。對于許多制造商，尤其是專注于大規(guī)模生產(chǎn)低成本設(shè)備的制造商而言，從頭開發(fā)這些功能所需的投入可能令人望而卻步。

這種困境催生了對可編程平臺(tái)的需求。當(dāng)前，業(yè)界正加速向?qū)Ｓ?AI架構(gòu)轉(zhuǎn)型，支持在廣泛的功耗性能區(qū)間實(shí)現(xiàn)彈性擴(kuò)展。這些架構(gòu)在保持通用設(shè)計(jì)靈活性的同時(shí)，又能滿足特殊的處理需求。

專用硬件在邊緣 AI中的作用

隨著 AI和機(jī)器學(xué)習(xí)應(yīng)用場景的不斷拓展，市場對定制化硬件的需求與日俱增，這類專用硬件能夠有效應(yīng)對 AI技術(shù)領(lǐng)域的獨(dú)特需求。然而，傳統(tǒng)的通用處理器在滿足 AI特殊需求，特別是神經(jīng)網(wǎng)絡(luò)處理方面表現(xiàn)乏力，盡管其在制造工業(yè)和通用工具鏈方面仍具重要價(jià)值。

為填補(bǔ)這一空白，半導(dǎo)體制造商紛紛推出新型 AI加速器，既能提升通用處理器的性能，又可保留其優(yōu)勢。此類加速器專為神經(jīng)網(wǎng)絡(luò)所需的并行處理而設(shè)計(jì)，為 AI運(yùn)算提供更高效的執(zhí)行路徑。

• 并行架構(gòu)和矩陣處理器：這些并行架構(gòu)（比如圖形處理器中的架構(gòu)）對神經(jīng)網(wǎng)絡(luò)訓(xùn)練非常奏效。矩陣處理器正是基于此原理設(shè)計(jì)而成，比如谷歌的張量處理單元專為加快神經(jīng)網(wǎng)絡(luò)處理的核心環(huán)節(jié)——矩陣運(yùn)算而開發(fā)。

• 存內(nèi)計(jì)算：這項(xiàng)創(chuàng)新技術(shù)通過可變電阻器與存儲(chǔ)單元的互聯(lián)，將內(nèi)存陣列直接轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，這樣有效規(guī)避了傳統(tǒng)內(nèi)存訪問的瓶頸問題，從而在運(yùn)算速度和能效方面實(shí)現(xiàn)重大突破。

邊緣 AI的未來：創(chuàng)新與機(jī)遇

隨著邊緣 AI領(lǐng)域的持續(xù)進(jìn)化，為應(yīng)對日益增長的 AI 處理需求，新技術(shù)與新架構(gòu)不斷涌現(xiàn)。其中，微型機(jī)器學(xué)習(xí) (TinyML)的進(jìn)展尤為矚目，它將 AI能力延伸至超低功耗設(shè)備。雖然 TinyML并非適用于所有應(yīng)用場合，但它無疑推動(dòng)了 AI在更廣泛設(shè)備中的普及。

• 現(xiàn)場可編程門陣列 (FPGA):FPGA具備動(dòng)態(tài)可重構(gòu)架構(gòu)，完美契合 AI技術(shù)的快速發(fā)展。相較于 GPU和 CPU，F(xiàn)PGA賦予設(shè)計(jì)者快速構(gòu)建和測試神經(jīng)網(wǎng)絡(luò)的能力，并能針對特定應(yīng)用需求定制硬件。這種靈活性在航空航天、國防裝備、醫(yī)療設(shè)備等高風(fēng)險(xiǎn)領(lǐng)域至關(guān)重要，這些領(lǐng)域的產(chǎn)品生命周期通常較長，且需要支持現(xiàn)場部署新算法。
• 圖形處理器 (GPU)：盡管 GPU擁有強(qiáng)大的并行計(jì)算能力，但其能效與散熱管理代價(jià)不菲。即便如此，在虛擬現(xiàn)實(shí)、機(jī)器視覺等需要強(qiáng)勁算力的應(yīng)用中，GPU仍是首選方案。
• 中央處理器 (CPU)：盡管 CPU在并行處理方面存在固有缺陷，但仍被廣泛集成于各類設(shè)備中。Arm推出的單指令多數(shù)據(jù) (SIMD)架構(gòu)等創(chuàng)新技術(shù)，雖提升了 CPU運(yùn)行 AI算法的性能，但與 GPU、FPGA等其他計(jì)算設(shè)備相比，通常存在速度較慢、功耗較高的局限性。

結(jié)語

從云端 AI到邊緣 AI的轉(zhuǎn)型，正在深刻改變物聯(lián)網(wǎng)系統(tǒng)處理與運(yùn)用數(shù)據(jù)的方式。邊緣 AI通過將 AI處理能力部署至數(shù)據(jù)源頭，顯著提升了安全性、可靠性和靈活性，因而得到廣泛的應(yīng)用。然而，邊緣 AI的實(shí)施需要全面考量硬件與軟件組件的協(xié)同，并妥善解決在資源受限環(huán)境中部署 AI的特殊挑戰(zhàn)。

隨著 AI普及程度的提高，市場愈發(fā)需要擅長解決邊緣計(jì)算特殊問題的專用硬件。從矩陣處理器、存內(nèi)計(jì)算到 FPGA和 TinyML，這些新興技術(shù)將重塑新一代邊緣 AI 解決方案。如此一來，應(yīng)用工程師得以緊跟技術(shù)發(fā)展浪潮，從而充分釋放邊緣 AI的潛力，打造更具創(chuàng)新性和競爭力的解決方案。

在 AI技術(shù)日新月異的發(fā)展環(huán)境中，工程師與開發(fā)者必須持續(xù)跟進(jìn)最新技術(shù)趨勢。如需深入探索 AI、掌握核心要素，并學(xué)習(xí)如何在實(shí)際項(xiàng)目中應(yīng)用 AI技術(shù)，歡迎訪問我們的AI中心（AI Hub）。無論是圖像分類、語音與手勢識(shí)別，還是狀態(tài)監(jiān)測與預(yù)測性維護(hù)，AI中心都能提供全方位支持，為您提供全面的產(chǎn)品解決方案、技術(shù)資源和專業(yè)知識(shí)，助您充分解鎖 AI技術(shù)的最大潛能。