電子發(fā)燒友網(wǎng)報道（文/周凱揚）隨著大廠持續(xù)批量購置高性能GPU資源，目前的云端AI生態(tài)已經(jīng)打好了硬件基礎，也已經(jīng)輻射到手機這樣的高算力端側設備。然而在數(shù)量更為龐大的其他端側設備，比如算力有限的IoT設備上，又該如何引入AI呢？這就不得不提到TinyML了。

小體量的機器學習

為了讓在超低功耗的MCU或傳感器設備上開發(fā)和部署AI模型，機器學習衍生出了TinyML這一研究領域。這里指的超低功耗最低可至mW級，從而打破定義智能設備的能耗壁壘，畢竟大部分的MCU主頻不超過1000MHz，內(nèi)存與存儲資源也有限，沒法用上那些大體量的模型。

且對于TinyML來說，即便其與服務器CPU、GPU等在算力上差距巨大，但所需的AI計算量依然不少。所以廠商往往需要從模型大小、處理器架構效率這類軟硬結合的指標上發(fā)力，比如Tensorflow Lite、PyTorch Mobile這類輕量級框架，又或是針對機器學習進行優(yōu)化的CPU內(nèi)核或輔助計算的NPU等。

目前常見的TinyML應用主要集中在視覺、音頻和振動這三大感知領域。以視覺而言，物體識別、人體姿態(tài)識別和深度識別之類的應用早就在MCU應用上普及了，但TinyML可以進一步加強識別能力和識別效率，且其學習能力也使其不再局限于特定的識別目標。

而音頻上TinyML就更加實用了，除去常見的關鍵詞識別、自動通話識別外，還可以不依靠額外的硬件或云端連接，進一步完成降噪、機器翻譯等操作。至于振動相關的TinyML應用主要集中在工業(yè)領域，比如人物活動識別、電機控制、預測性維護等等。

TinyML的邊緣生態(tài)

作為目前MCU市場的主導架構，Arm早早就邁入了對TinyML的研究，和高通、谷歌等廠商展開了相關領域的合作。同時Arm也開發(fā)出了部分處理器，為面積受限的低功耗芯片提供計算輔助，比如Cortex-M55、Ethos-U55/U65等等。

目前不少Arm MCU廠商在這些年的架構和IP內(nèi)卷中同樣看到了邊緣AI的商機，紛紛深入開展了TinyML的開發(fā)，比如意法半導體、瑞薩、兆易創(chuàng)新和澎湃微等廠商。比如瑞薩就基于RA6T2這樣的電機控制MCU，利用TinyML及其Reality AI軟件實現(xiàn)了無需傳感器的預測性維護。在RISC-V架構上，也有博流智能、嘉楠科技等廠商在發(fā)力TinyML。

不少廠商為了追趕進度，也選擇了收購一途，比如近期收購了Atlazo的Nordic Semiconductor，前者就是一家專注于TinyML處理器、IP和傳感器接口開發(fā)的公司。Nordic也計劃在未來的SoC設計中，集成這些TinyML技術，用于智能健康市場，比如心臟監(jiān)測、血糖監(jiān)測等。包括上文中提到的瑞薩Reality AI軟件，其實也是靠收購獲得的。

在相關的軟件開發(fā)上，國內(nèi)也有矽速科技這樣的廠商，在不斷推出開源套件的同時，也提供了MaxiHub這樣一個專門針對邊緣設備的模型在線訓練分享平臺，以及TinyMaix這樣一個面向MCU的超輕量級神經(jīng)網(wǎng)絡推理庫，支持ARM、RISC-V的多種專用指令優(yōu)化。


寫在最后

從軟硬件生態(tài)上來看，邊緣AI已經(jīng)變得愈發(fā)成熟，也必將是專注于MCU等低功耗半導體的廠商未來的必經(jīng)之路。但至于邊緣端直接運行大模型這樣的應用還是需要進一步發(fā)展的，畢竟手機這類設備有著天生的算力與連接優(yōu)勢，但不少邊緣設備是不具備的，所以先從小的TinyML開始做起，才是腳踏實地的路線。