TinyML是深度學習和人工智能領(lǐng)域的最新技術(shù)。它帶來了在隨處可見的微控制器（幾乎是最小的電子芯片）中運行機器學習模型的能力。

微控制器是我們每天使用的許多設(shè)備的大腦。從電視遙控器到電梯再到智能揚聲器，它們無處不在。可以發(fā)射遙測數(shù)據(jù)的多個傳感器連接到微控制器。執(zhí)行器，例如開關(guān)和電動機，也連接到同一微控制器。它帶有嵌入式代碼，可以從傳感器獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標志著終端用戶消費人工智能方式的重大轉(zhuǎn)變。來自硬件和軟件行業(yè)的供應商正在合作將人工智能模型引入微控制器。

在電子設(shè)備中運行復雜的深度學習模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個微控制器上本地運行，該微控制器具有管理連接的傳感器和執(zhí)行器的邏輯。

TinyML的演變

第1階段-云中的AI

在AI的早期，機器學習模型是在云中訓練和托管的。運行AI所需的強大計算能力使云成為理想的選擇。開發(fā)人員和數(shù)據(jù)科學家利用高端CPU和GPU訓練模型，然后托管它們以進行推理。每個消耗AI的應用程序都與云對話。該應用程序?qū)⑴c微控制器通信以管理傳感器和執(zhí)行器。

第二階段-邊緣人工智能

雖然云仍然是人工智能的邏輯家園，但它確實在消耗深度學習模型的同時引入了延遲。想象一下，每次與智能揚聲器通話時，請求都會被云處理。往返行程中的延誤扼殺了體驗。其他場景，如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運行。

邊緣計算（云和本地物聯(lián)網(wǎng)設(shè)備之間的管道）已成為在本地托管AI模型的理想選擇。在邊緣運行的AI不會遭受在云中運行相同AI所帶來的延遲。

但是，鑒于邊緣資源有限，培訓和再培訓模型仍然需要云。可以在邊緣托管經(jīng)過訓練的模型，以進行推理（使用機器學習模型的過程），而不用于訓練。因此，在云中訓練模型并將其部署在邊緣變得很普遍。這種方法提供了兩全其美的優(yōu)勢-用于訓練的強大計算環(huán)境（云）和用于推理的低延遲托管環(huán)境（邊緣）。

在邊緣使用AI時，微控制器從連接的傳感器獲取遙測，然后將遙測發(fā)送到本地部署的模型以通過應用程序進行推理。然后，模型返回輸入數(shù)據(jù)的預測或分類，用于確定后續(xù)步驟。

階段3-微控制器中的AI

雖然在許多情況下在邊緣運行AI是一個完美的解決方案，但是在某些情況下，部署邊緣計算層是不切實際的。例如，將諸如智能揚聲器和遙控器之類的消費類設(shè)備連接到邊緣是過大的選擇。這增加了設(shè)備的總擁有成本和供應商的支持成本。但是這些消費類設(shè)備是注入AI功能的溫床。

在工業(yè)場景中，預測性維護已成為設(shè)備的重要組成部分。昂貴的機械設(shè)備需要嵌入能夠?qū)崟r檢測異常的機器學習模型，以提供預測性維護。通過主動檢測故障，客戶可以節(jié)省數(shù)百萬美元的維護成本。

直接在微控制器中嵌入AI成為消費和工業(yè)物聯(lián)網(wǎng)場景的關(guān)鍵。這種方法不依賴于外部應用程序，邊緣計算層或云。AI模型與嵌入到微控制器的嵌入式代碼一起運行。它成為提供無與倫比的速度的整體邏輯的組成部分。

傳統(tǒng)上，機器學習模型始終部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入微控制器中，因此它們不會占用大量資源。這種方法是將AI注入物聯(lián)網(wǎng)設(shè)備的最有效，最具成本效益的方法。

TinyML不斷發(fā)展的生態(tài)系統(tǒng)

盡管TinyML尚處于起步階段，但正在形成一個充滿活力的生態(tài)系統(tǒng)。電子芯片和物聯(lián)網(wǎng)套件制造商（例如Adafruit，聯(lián)發(fā)科技，Arduino和STM）正在其設(shè)備中支持TinyML。微軟的Azure Sphere（安全微控制器）也可以運行TinyML模型。TensorFlow Lite是流行的開源深度學習框架的變體，可以移植到支持的設(shè)備上。另一個開源機器學習編譯器和運行時Apache TVM也可以用于將模型轉(zhuǎn)換為TinyML。

Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo等新興的AutoML和TinyML平臺正在構(gòu)建工具和開發(fā)環(huán)境，以簡化針對微控制器的訓練和優(yōu)化模型的過程。

TinyML使AI無處不在，并可供消費者使用。它將為我們每天使用的數(shù)百萬種設(shè)備帶來智能。
責任編輯：YYX