智能傳感器推動邊緣AI普及化

前言

英偉達(dá)公司（Nvidia）于日前發(fā)布了全新的50系顯卡，在提高游戲性能的同時，著重優(yōu)化了人工智能（AI）表現(xiàn)，這對于目前炙手可熱的AI行業(yè)來說無疑具有非常重要的影響。隨著近幾年的快速發(fā)展，AI技術(shù)已經(jīng)從邊緣走向主流，從專業(yè)化走向普通用戶。

圖源：Nvidia官網(wǎng)

在過去，AI的應(yīng)用僅限于數(shù)據(jù)中心等高功率計算設(shè)施集群。近幾年，它已經(jīng)擴(kuò)展到工業(yè)運營的“邊緣”，這得益于智能傳感器和機器學(xué)習(xí)（ML）的集成。現(xiàn)在，AI的普及化正在擴(kuò)展到互聯(lián)的工業(yè)環(huán)境，應(yīng)用范圍變得更為廣泛。

圖源：Fortune Business Insights官網(wǎng)

根據(jù)Fortune Business Insights最新統(tǒng)計數(shù)據(jù)，邊緣AI市場在2023年的規(guī)模為204.5億美元，到2032年將達(dá)到2698.2億美元，年復(fù)合增長率高達(dá)33%。這種快速增長將出現(xiàn)在多個行業(yè)，包括汽車、制造業(yè)、醫(yī)療保健、能源和公用事業(yè)。研究稱，與邊緣設(shè)備相關(guān)的增強實時決策能力和減少網(wǎng)絡(luò)流量將推動邊緣設(shè)備在能源效率和預(yù)測性維護(hù)等領(lǐng)域的應(yīng)用。

邊緣AI的硬件英雄

但是，哪些系統(tǒng)和解決方案支撐著邊緣AI的迅猛發(fā)展，尤其是與智能傳感器相關(guān)的領(lǐng)域？工程師在工業(yè)環(huán)境中試驗此類技術(shù)有多容易？讓我們通過深入研究邊緣AI的基礎(chǔ)知識及其帶來的好處來回答這些問題。

顧名思義，邊緣計算鼓勵采用分布式架構(gòu)，通過分布式計算框架將企業(yè)應(yīng)用程序定位在更靠近數(shù)據(jù)源（例如物聯(lián)網(wǎng)設(shè)備）的位置。邊緣AI使用板載計算資源（例如CPU）在本地處理數(shù)據(jù)。在這里，機器學(xué)習(xí)算法被部署來實時分析數(shù)據(jù)流，而無需將它們無線發(fā)送到異地集中服務(wù)器。決策基于預(yù)先訓(xùn)練的模型，完全針對邊緣設(shè)備進(jìn)行了優(yōu)化，減少了延遲并提高了隱私性。

除了生產(chǎn)常規(guī)的民用GPU，英偉達(dá)和其他公司也提供了專為邊緣設(shè)備設(shè)計的全系列AI模塊，使其成為機器人、智能相機和工業(yè)自動化應(yīng)用的理想選擇。

適用于受限設(shè)備的TinyML

然而，這些設(shè)備并不總是最適合邊緣AI應(yīng)用。有時，ML模型需要在處理能力和內(nèi)存極其受限的設(shè)備上運行，例如微控制器(MCU)。這就是TinyML的概念的用武之地，TinyML是一門機器學(xué)習(xí)技術(shù)和應(yīng)用，它以極低的功耗執(zhí)行設(shè)備上的傳感器數(shù)據(jù)分析。

過去，傳統(tǒng)傳感器收集各種參數(shù)的數(shù)據(jù)，例如工業(yè)物聯(lián)網(wǎng)中的溫度、濕度、振動和運動。這些信息通常會通過無線網(wǎng)絡(luò)傳輸?shù)街醒?a target="_blank">處理器或云服務(wù)器進(jìn)行分析。然而，這種方法存在缺點，最明顯的是能耗、延遲和對強大通信網(wǎng)絡(luò)的需求。

然而，根據(jù)專注于邊緣超低功耗機器學(xué)習(xí)的全球非營利專業(yè)組織TinyML基金會的說法，傳感器可以擁有專門針對低功耗、資源受限設(shè)備的板載ML功能。因此，邊緣傳感器收集的數(shù)據(jù)可以通過TinyML算法進(jìn)行預(yù)處理，以備分析。數(shù)據(jù)被輸入到經(jīng)過訓(xùn)練的TinyML模型中，該模型根據(jù)其知識進(jìn)行預(yù)測或分類。邊緣設(shè)備可以根據(jù)模型的輸出采取實時操作。例如，具有TinyML異常檢測功能的壓力傳感器如果檢測到異常讀數(shù)，則可以發(fā)出警報。

這種架構(gòu)有效地使AI能夠在以前不適用的環(huán)境和應(yīng)用程序中進(jìn)行邊緣優(yōu)化。它與前面提到的行業(yè)公司的解決方案結(jié)合使用時也提供了靈活性。

嘗試邊緣AI

因此，邊緣AI有可能掀起一場革命，利用可訪問的技術(shù)和即插即用的解決方案，鼓勵快速原型設(shè)計和測試AI驅(qū)動的解決方案。讓我們看看工程師如何在邊緣試驗AI，重點介紹一些可以采取的實際步驟，以使想法變?yōu)楝F(xiàn)實。根據(jù)數(shù)字工程集團(tuán)Encora的說法，這些步驟可以包括：

制定用例：查看AI可以在組織內(nèi)引入效率或創(chuàng)新的具體領(lǐng)域。例如，目標(biāo)可能包括啟動預(yù)測性維護(hù)以減少停機時間和成本，或改善能源管理以提高運營效率和安全性。

選擇合適的硬件：選擇合適的硬件對于平衡功耗和計算需求至關(guān)重要。如本文前面所述，高性能GPU適合密集計算，而MCU則適合低功耗實時應(yīng)用。

關(guān)注數(shù)據(jù)：收集的數(shù)據(jù)的質(zhì)量和類型至關(guān)重要。確保數(shù)據(jù)全面且準(zhǔn)確地代表您想要監(jiān)控或預(yù)測的運營狀況。此數(shù)據(jù)收集可能涉及集成各種傳感器。此外，確保數(shù)據(jù)干凈且井然有序，以便進(jìn)行有效分析。

務(wù)必進(jìn)行實驗：訓(xùn)練模型需要選擇正確的機器學(xué)習(xí)算法并調(diào)整參數(shù)以適應(yīng)您的特定數(shù)據(jù)集。此過程可能涉及嘗試不同的模型，以找到最能預(yù)測或識別與您的用例相關(guān)的模式的模型。

確保模型效率：優(yōu)化模型以進(jìn)行推理就是在不犧牲準(zhǔn)確性的情況下使其盡可能高效。量化等技術(shù)可以減少模型的大小和計算需求，使其更適合邊緣部署。

測試、測試、再測試：測試模型以確保其按預(yù)期運行至關(guān)重要。此過程可能涉及建立試點計劃或分階段部署以監(jiān)控性能并收集反饋以進(jìn)行改進(jìn)。

進(jìn)行性能評估：隨著運營條件的變化，AI模型可能會隨著時間的推移而發(fā)生變化。定期對模型進(jìn)行性能評估和更新，以確保其繼續(xù)有效滿足您的需求。這有助于保持邊緣AI系統(tǒng)的相關(guān)性和準(zhǔn)確性。

獲取用戶的反饋：讓多領(lǐng)域利益相關(guān)者參與評估邊緣AI項目的內(nèi)部反饋并共同規(guī)劃未來的應(yīng)用方向。

結(jié)語

這是通過集成智能傳感器和機器學(xué)習(xí)實現(xiàn)的人工智能向工業(yè)運營邊緣轉(zhuǎn)移的概述。我們可以看到，傳統(tǒng)傳感器向具有邊緣處理能力的智能傳感器的不斷發(fā)展正在產(chǎn)生深遠(yuǎn)的影響。最終，這種轉(zhuǎn)變?yōu)槲磥淼膭?chuàng)新鋪平了道路。