在本文中，我們將分析采用資源受限低功耗微控制器實(shí)施機(jī)器學(xué)習(xí)的概念，這種概念或者統(tǒng)稱為 TinyML。機(jī)器學(xué)習(xí)不斷深入到我們?nèi)粘Ｉ畹脑S多方面，無論是在家庭，還是辦公室，還是在兩者之間。雖然許多機(jī)器學(xué)習(xí)應(yīng)用需要強(qiáng)大的計(jì)算能力來處理復(fù)雜的科學(xué)或金融數(shù)據(jù)，但那些為物聯(lián)網(wǎng) （IoT） 和其他基于網(wǎng)咯邊緣應(yīng)用而設(shè)計(jì)的機(jī)器學(xué)習(xí)只需要少量的計(jì)算和連接能力。

已經(jīng)深入我們生活的人工智能和機(jī)器學(xué)習(xí)

不久前，與我們的手表或星際迷航通訊器（Star Trek Communicator）交談只是科幻小說作家的幻想，但今天我們中的許多人卻可以經(jīng)常這樣做。我們能夠與智能手機(jī)的App交流，同樣能夠與我們汽車的信息娛樂系統(tǒng)以及我們家中的“智能揚(yáng)聲器”互動(dòng)。

人工智能 （AI） 是一門創(chuàng)造能夠思考、感知、識(shí)別和解決問題計(jì)算機(jī)的科學(xué)，而且已成為當(dāng)今計(jì)算機(jī)和數(shù)據(jù)科學(xué)領(lǐng)域的基礎(chǔ)。機(jī)器學(xué)習(xí) （ML） 是 AI 的一個(gè)應(yīng)用領(lǐng)域，專注于通過算法使計(jì)算機(jī)能夠?qū)W習(xí)和改進(jìn)如何執(zhí)行任務(wù)，而無需明確編程來完成這些。

今天，我們周圍的大部分世界已經(jīng)被機(jī)器學(xué)習(xí)所塑造，從天氣預(yù)報(bào)以及日常通勤尋找最佳路線，到大家最喜歡的社交媒體App上的促銷廣告，許多科學(xué)研究領(lǐng)域都依賴機(jī)器學(xué)習(xí)來處理 PB 級(jí)的數(shù)據(jù)以找出大的趨勢(shì)。

機(jī)器學(xué)習(xí)如何工作

在上面討論的機(jī)器學(xué)習(xí)示例中，我們通常只會(huì)見到結(jié)果。通常情況下，我們看不到尋找新黑洞的復(fù)雜過程，或用于確定今天天氣預(yù)測(cè)的過去天氣事件排列數(shù)量。許多復(fù)雜的任務(wù)涉及大型數(shù)據(jù)集合、多個(gè)候選算法和強(qiáng)大的計(jì)算能力。深入研究機(jī)器學(xué)習(xí)，您會(huì)發(fā)現(xiàn)不同類別的學(xué)習(xí)，每一種都適合特定的任務(wù)。我們將不會(huì)在這里深入介紹這些，但它們可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)的和強(qiáng)化學(xué)習(xí)。

神經(jīng)網(wǎng)絡(luò)是所有機(jī)器學(xué)習(xí)應(yīng)用的關(guān)鍵組成部分。一般來說，神經(jīng)網(wǎng)絡(luò)的目標(biāo)是在數(shù)學(xué)模型中復(fù)制人腦中神經(jīng)元的功能，該模型使用特定算法來推斷結(jié)果的概率。例如，在圖像識(shí)別任務(wù)中，圖片是狗的概率為 95%。業(yè)內(nèi)有不同類型的神經(jīng)網(wǎng)絡(luò)，您會(huì)遇到諸如卷積神經(jīng)網(wǎng)絡(luò) （CNN） 和循環(huán)神經(jīng)網(wǎng)絡(luò) （RNN） 等術(shù)語，每種神經(jīng)網(wǎng)絡(luò)都有一組不同的互連層，使其更適合特定任務(wù)。

監(jiān)督學(xué)習(xí)涉及向神經(jīng)網(wǎng)絡(luò)教授大量訓(xùn)練數(shù)據(jù)，以便能夠通過算法推斷出結(jié)果。例如，對(duì)于圖像識(shí)別任務(wù)，CNN 是最好的。要識(shí)別不同類型的水果，需要向神經(jīng)網(wǎng)絡(luò)算法“輸入”數(shù)千張從不同角度拍攝，并具有不同成熟度的不同水果標(biāo)記圖像。然后，該算法會(huì)尋找可識(shí)別的特征，以幫助它分辨出一種水果和另一種水果的差異。訓(xùn)練階段為迭代式，并且可能涉及調(diào)整算法以便在遇到圖像測(cè)試數(shù)據(jù)集時(shí)實(shí)現(xiàn)最高概率。

圖 1：訓(xùn)練和推理步驟。（來源：貿(mào)澤電子）

一旦測(cè)試數(shù)據(jù)達(dá)到最佳的神經(jīng)網(wǎng)絡(luò)算法性能，模型就可以部署。在部署中，也稱為推理，模型會(huì)基于概率推斷結(jié)果。

例如，我們與智能揚(yáng)聲器的日常互動(dòng)通常涉及一個(gè)觸發(fā)詞或短語，例如“嘿，谷歌”來喚醒它，以便它開始收聽接下來會(huì)發(fā)生什么。智能揚(yáng)聲器不具備數(shù)據(jù)中心的計(jì)算能力，因此只會(huì)記錄簡短的音頻文件并將其傳輸?shù)皆贫诉M(jìn)行推理，以確定我們請(qǐng)求的性質(zhì)。檢測(cè)觸發(fā)詞或短語是簡單機(jī)器學(xué)習(xí)的一個(gè)很好例子；歡迎來到 TinyML！

機(jī)器學(xué)習(xí)和工業(yè)物聯(lián)網(wǎng)

鑒于機(jī)器學(xué)習(xí)已經(jīng)變得無處不在，其潛在應(yīng)用也呈現(xiàn)出指數(shù)級(jí)增長。例如，許多工業(yè)應(yīng)用并不關(guān)注“大數(shù)據(jù)”應(yīng)用，而目標(biāo)是如何提高生產(chǎn)線的效率。生產(chǎn)過程中意外故障造成的成本損失可能很高，例如，冷凍食品混合過程中的馬達(dá)故障可能會(huì)引發(fā)生產(chǎn)停止，從而導(dǎo)致原材料損失。許多機(jī)構(gòu)現(xiàn)在采用預(yù)測(cè)性維護(hù)制度來安排有計(jì)劃的停機(jī)時(shí)間，以防止此類故障發(fā)生。對(duì)馬達(dá)和執(zhí)行器等生產(chǎn)設(shè)施可進(jìn)行基于狀態(tài)的監(jiān)控，這樣有助于預(yù)測(cè)馬達(dá)軸承何時(shí)開始出現(xiàn)過度磨損。工業(yè)物聯(lián)網(wǎng)邊緣傳感器設(shè)備采用機(jī)器學(xué)習(xí)算法可以識(shí)別馬達(dá)的振動(dòng)特征，并可判斷何時(shí)偏離標(biāo)準(zhǔn)，以提供足夠早的警告。

僅僅在工業(yè)領(lǐng)域內(nèi)考慮，機(jī)器學(xué)習(xí)的應(yīng)用機(jī)會(huì)也非常巨大，但隨之而來的則是一些技術(shù)挑戰(zhàn)。與“大數(shù)據(jù)”應(yīng)用不同，簡單工業(yè)物聯(lián)網(wǎng)邊緣傳感器的計(jì)算和內(nèi)存資源只是數(shù)據(jù)中心可用資源的一小部分。一家工廠可能有數(shù)百個(gè)傳感器，因此規(guī)模經(jīng)濟(jì)是一個(gè)因素，物理尺寸、合適可用的電源以及有線或無線連接也是需要考慮的因素。然而，在大多數(shù)情況下，振動(dòng)傳感器中涉及的神經(jīng)網(wǎng)絡(luò)算法要求遠(yuǎn)低于深太空研究，因此嵌入式開發(fā)人員正在探索在電池供電的低功耗微控制器上運(yùn)行網(wǎng)絡(luò)模型的方法。

用于網(wǎng)路邊緣機(jī)器學(xué)習(xí)的TinyML

用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的計(jì)算平臺(tái)不需要與部署相同，消除了資源最密集的過程之一。然而，技術(shù)挑戰(zhàn)仍然存在。算法能否及時(shí)運(yùn)行？設(shè)備將如何與主機(jī)系統(tǒng)通信以通知操作人員？嵌入式開發(fā)人員也面臨挑戰(zhàn)。大多數(shù)人不是數(shù)據(jù)科學(xué)家，因此學(xué)習(xí)機(jī)器學(xué)習(xí)的概念和使用神經(jīng)網(wǎng)絡(luò)呈現(xiàn)出較大的學(xué)習(xí)難度。

傳統(tǒng)上看，選擇合適的神經(jīng)網(wǎng)絡(luò)模型、訓(xùn)練模型并對(duì)其進(jìn)行調(diào)整以進(jìn)行部署的過程非常復(fù)雜。然而，已經(jīng)有越來越多的機(jī)器學(xué)習(xí)庫、框架和工具，這些可以極大地簡化在微控制器上開發(fā)和部署神經(jīng)網(wǎng)絡(luò)。無論您希望實(shí)現(xiàn)何種基于網(wǎng)路邊緣的應(yīng)用，隨著專門為 TinyML 應(yīng)用設(shè)計(jì)的 AI/ML 資源數(shù)量不斷增加，您隨時(shí)可以得到所需的支持和幫助，而且您可能會(huì)發(fā)現(xiàn)貿(mào)澤電子的一些機(jī)器學(xué)習(xí)項(xiàng)目示例很有幫助。 AI/ML 正在成為工業(yè)數(shù)字化轉(zhuǎn)型的重要組成部分，尤其在基于邊緣的工業(yè)應(yīng)用中不斷發(fā)展并越來越受歡迎