如果你關注最新進展,可能已經知道 Nordic Semiconductor 收購了 Neuton.AI。Neuton 是一家邊緣 AI 公司,致力于使機器學習模型更易于訪問。它創建的模型比競爭對手的框架小 10 倍,速度也快 10 倍,甚至可以在最先進的邊緣設備上進行人工智能處理。在這篇博文中,我們將介紹這對開發人員意味著什么,以及使用 Neuton 模型如何改進您的開發和終端應用。
為什么選擇 Neuton
作為開發人員,在產品中使用邊緣人工智能的兩個最大障礙是:
ML 模型對于您所選微控制器的內存來說太大。
創建自定義 ML 模型本質上是一個手動過程,需要高度的數據科學知識才能做好。
現在,這些阻礙即將被解決。
Neuton 是一個自動生成 ML 模型的框架,其大小僅為 TensorFlow Lite 等傳統框架的一小部分。對于開發人員來說,這意味著要訓練一個高度優化、快速和準確的 ML 模型,你所需要的只是一個數據集。Neuton 模型可以在任何 Nordic SoC(如我們的旗艦產品 nRF54L15)上運行,而且非常高效,也非常適合空間最有限的 SoC(如 nRF52805),只占用幾千字節的非易失性存儲器(NVM)。這使得以前被認為不可能的應用也能增加 ML 功能。例如,您現在可以在廣泛的傳感器網絡的每個節點上進行人工智能處理,而在這種網絡中,傳感器的尺寸和成本是關鍵,空間也非常寶貴。
Neuton 的與眾不同
其他邊緣人工智能框架比比皆是,而且存在已久。Neuton 與 LiteRT(又稱微控制器 TensorFlow Lite)和類似框架的主要區別在于,其他框架仍然依賴于開發人員掌握如何手動組織神經網絡、神經元和網絡深度的知識,然后在事后對模型進行壓縮和優化,使其適合所需的目標設備。這種方法導致模型在代碼大小、執行速度和功耗方面效率較低。
而 Neuton 可以自動處理所有這些問題。Neuton 不會從一開始就靜態定義網絡參數,而是自動生成網絡,并檢查每一個新神經元是否能提高模型性能。不增加價值的神經元會被立即移除,以節省資源。這為開發者帶來了多重好處:
無需手動選擇神經網絡結構、參數或架構
無需資源密集型的自動神經架構搜索 (NAS)
代碼體積盡可能小,無需壓縮或優化
執行速度更快,這意味著功耗更低
Neuton 模型以純 C 代碼形式從平臺下載,沒有外部依賴性或特殊運行要求。它們可隨時集成到在任何 Arm Cortex-M 系列處理器上運行的任何應用中,如 nRF52、nRF53、nRF54L 和 nRF54H 系列 SoC 或 nRF91 系列 SiP 的應用內核。
這對開發人員意味著什么
使用 Neuton 框架創建 ML 模型已經可以通過 lab.neuton.ai 實現。如果您迫不及待,現在就可以嘗試使用,但請注意,您需要自己將其集成到 nRF Connect SDK 應用程序中,因為目前還沒有這方面的示例。如果您更喜歡 Nordic 眾所周知的更簡化的開發流程和開發體驗,我們正計劃適配我們的開發者生態的重大改進。因此,如果您不想自己完成所有的集成工作,您可以等待我們nRF Connect SDK 示例和必要開發工具,來構建與我們的解決方案無縫集成的模型。
盡管通過專用示例固件與 nRF Connect SDK 的集成仍在進行中,但使用 Neuton 框架生成模型已經完全實現自動化,而且非常簡單。
為您的應用生成一個完整、無依賴性的模型只需三個步驟。
收集數據并上傳數據集;該平臺接收帶標簽的 CSV 文件
選擇數據集中的目標變量,并選擇評估指標
然后,平臺會在后臺 “自動 ”生成神經網絡,一旦算法準備就緒,平臺就會通知您。
將 Neuton 模型下載為一個完整的 C 語言庫,并使用僅由 3 個簡單函數調用組成的應用程序接口將其集成到您的應用程序中:
neuton_nn_setup - 設置 Neuton 的內部組件,應首先調用,且僅調用一次
neuton_nn_feed_inputs - 為模型推理提供并準備實時輸入特征
neuton_nn_run_inference - 將實時輸入特征輸入 Neuton 模型,計算輸出結果
使用案例
Neuton 釋放了以前僅限于我們旗艦硬件的使用案例,使我們所有的 SoC 都能用于邊緣人工智能。例子包括:
預測性維護和樓宇自動化系統
在每個節點上進行本地數據分析的智能傳感器網絡
遙控器和可穿戴設備的動作和手勢識別
用于智能健康可穿戴設備的健康和活動監測
還有更多
對標測試
下表列出了在同一 nRF52840 SoC 上運行的 LiteRT 模型(以前稱為微控制器 TensorFlow Lite)和 Neuton 模型之間的對標測試結果。該比較使用了眾所周知的 "magic wand "動作識別用例,兩個模型都在相同的數據集上進行了訓練,并在相同的保留集上進行了驗證。
有關比較的完整文章可在此處查閱(外部鏈接)。
下一步工作
在接下來的幾個月里,我們將努力把 Neuton 集成到我們的開發生態系統中,增加工具、示例和支持,為開發人員提供便利,為他們的應用增值。如果您非常想親自嘗試構建和集成 Neuton 模型,現在就可以使用其傳統的在線平臺 lab.neuton.ai 進行測試。
審核編輯 黃宇
-
soc
+關注
關注
38文章
4386瀏覽量
222690 -
人工智能
+關注
關注
1806文章
49008瀏覽量
249305 -
ML
+關注
關注
0文章
151瀏覽量
35072
發布評論請先 登錄
最新人工智能硬件培訓AI 基礎入門學習課程參考2025版(大模型篇)
Nordic 收購 Neuton.AI # Neuton ML 模型解鎖 SoC 邊緣人工智能

Nordic收購 Neuton.AI 關于產品技術的分析
如何構建邊緣人工智能基礎設施
STM32N6570-DK:邊緣人工智能開發的全能探索板

有獎直播 | @4/1 智在邊緣:解鎖邊緣人工智能的無限可能

芯科科技無線SoC助力簡化AI/ML開發
用 ADI 的 MAX78002 MCU 開發邊緣人工智能應用

人工智能和機器學習以及Edge AI的概念與應用

評論