電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）隨著大廠持續(xù)批量購置高性能GPU資源，目前的云端AI生態(tài)已經(jīng)打好了硬件基礎(chǔ)，也已經(jīng)輻射到手機(jī)這樣的高算力端側(cè)設(shè)備。然而在數(shù)量更為龐大的其他端側(cè)設(shè)備，比如算力有限的IoT設(shè)備上，又該如何引入AI呢？這就不得不提到TinyML了。

小體量的機(jī)器學(xué)習(xí)

為了讓在超低功耗的MCU或傳感器設(shè)備上開發(fā)和部署AI模型，機(jī)器學(xué)習(xí)衍生出了TinyML這一研究領(lǐng)域。這里指的超低功耗最低可至mW級(jí)，從而打破定義智能設(shè)備的能耗壁壘，畢竟大部分的MCU主頻不超過1000MHz，內(nèi)存與存儲(chǔ)資源也有限，沒法用上那些大體量的模型。

且對于TinyML來說，即便其與服務(wù)器CPU、GPU等在算力上差距巨大，但所需的AI計(jì)算量依然不少。所以廠商往往需要從模型大小、處理器架構(gòu)效率這類軟硬結(jié)合的指標(biāo)上發(fā)力，比如Tensorflow Lite、PyTorch Mobile這類輕量級(jí)框架，又或是針對機(jī)器學(xué)習(xí)進(jìn)行優(yōu)化的CPU內(nèi)核或輔助計(jì)算的NPU等。

目前常見的TinyML應(yīng)用主要集中在視覺、音頻和振動(dòng)這三大感知領(lǐng)域。以視覺而言，物體識(shí)別、人體姿態(tài)識(shí)別和深度識(shí)別之類的應(yīng)用早就在MCU應(yīng)用上普及了，但TinyML可以進(jìn)一步加強(qiáng)識(shí)別能力和識(shí)別效率，且其學(xué)習(xí)能力也使其不再局限于特定的識(shí)別目標(biāo)。

而音頻上TinyML就更加實(shí)用了，除去常見的關(guān)鍵詞識(shí)別、自動(dòng)通話識(shí)別外，還可以不依靠額外的硬件或云端連接，進(jìn)一步完成降噪、機(jī)器翻譯等操作。至于振動(dòng)相關(guān)的TinyML應(yīng)用主要集中在工業(yè)領(lǐng)域，比如人物活動(dòng)識(shí)別、電機(jī)控制、預(yù)測性維護(hù)等等。

TinyML的邊緣生態(tài)

作為目前MCU市場的主導(dǎo)架構(gòu)，Arm早早就邁入了對TinyML的研究，和高通、谷歌等廠商展開了相關(guān)領(lǐng)域的合作。同時(shí)Arm也開發(fā)出了部分處理器，為面積受限的低功耗芯片提供計(jì)算輔助，比如Cortex-M55、Ethos-U55/U65等等。

目前不少Arm MCU廠商在這些年的架構(gòu)和IP內(nèi)卷中同樣看到了邊緣AI的商機(jī)，紛紛深入開展了TinyML的開發(fā)，比如意法半導(dǎo)體、瑞薩、兆易創(chuàng)新和澎湃微等廠商。比如瑞薩就基于RA6T2這樣的電機(jī)控制MCU，利用TinyML及其Reality AI軟件實(shí)現(xiàn)了無需傳感器的預(yù)測性維護(hù)。在RISC-V架構(gòu)上，也有博流智能、嘉楠科技等廠商在發(fā)力TinyML。

不少廠商為了追趕進(jìn)度，也選擇了收購一途，比如近期收購了Atlazo的Nordic Semiconductor，前者就是一家專注于TinyML處理器、IP和傳感器接口開發(fā)的公司。Nordic也計(jì)劃在未來的SoC設(shè)計(jì)中，集成這些TinyML技術(shù)，用于智能健康市場，比如心臟監(jiān)測、血糖監(jiān)測等。包括上文中提到的瑞薩Reality AI軟件，其實(shí)也是靠收購獲得的。

在相關(guān)的軟件開發(fā)上，國內(nèi)也有矽速科技這樣的廠商，在不斷推出開源套件的同時(shí)，也提供了MaxiHub這樣一個(gè)專門針對邊緣設(shè)備的模型在線訓(xùn)練分享平臺(tái)，以及TinyMaix這樣一個(gè)面向MCU的超輕量級(jí)神經(jīng)網(wǎng)絡(luò)推理庫，支持ARM、RISC-V的多種專用指令優(yōu)化。


寫在最后

從軟硬件生態(tài)上來看，邊緣AI已經(jīng)變得愈發(fā)成熟，也必將是專注于MCU等低功耗半導(dǎo)體的廠商未來的必經(jīng)之路。但至于邊緣端直接運(yùn)行大模型這樣的應(yīng)用還是需要進(jìn)一步發(fā)展的，畢竟手機(jī)這類設(shè)備有著天生的算力與連接優(yōu)勢，但不少邊緣設(shè)備是不具備的，所以先從小的TinyML開始做起，才是腳踏實(shí)地的路線。