隨著邊緣AI與嵌入式系統的發展,智能小車、服務機器人等場景中亟需融合「高層智能決策」與「低層實時控制」。然而當前常見系統架構存在以下痛點:
決策系統與控制系統分離:AI模型通常運行在云端或高性能主控中,而運動控制仍依賴分離式MCU,通信鏈路長、時延大。
通信方式低效:傳統使用串口、網絡Socket或CAN等方式連接Linux與MCU,不僅通信開銷大,且存在不穩定性與延遲瓶頸。
系統集成困難:多個獨立組件難以統一管理,部署復雜,調試成本高,難以快速遷移與擴展。
缺乏標準化接口:上層應用缺乏便捷控制底層運動單元的標準方式,導致AI決策落地困難。
本文介紹一種基于虛擬化技術的嵌入式虛擬化集成開發平臺(vmRTThread),其架構如下圖所示:
可滿足不同安全等級、實時性要求及用戶體驗與運算能力需求。基于該平臺可將決策系統與控制系統同時運行于同一塊SOC;構建一套AI驅動+實時控制的一體化系統;其中該平臺提供系統間共享內存通信方式,具有低延遲和零拷貝的跨系統數據傳輸等特點,且通信速度不低于100MB/s(同步),可取代傳統串口或網絡等方式,并且無需改變原有開發方式,其示例如下圖:
該平臺在開發階段提供配套工具,可對多系統進行統一管理、構建和部署:
AI側可采用MCP(Model Context Protocol)或Function Calling方式完成與實時控制間的交互。
基于上述方式,采用8核開發板來部署AI小車,通過大模型完成對小車的控制,系統架構如下:
具體分為以下幾個階段執行:
01虛擬化系統部署
在開發板上部署vmRT-Thread;
創建兩個Guest系統,為每個系統分配物理資源(CPU、內存和外設),配置共享內存通信:運行Ubuntu與RT-Thread。
02控制系統(RT-Thread)
提供小車前進、后退、左轉和右轉接口;
創建線程,監聽共享內存內的指令并執行動作。
03決策系統(Ubuntu)
提供AI大模型運行環境;
準備MCP Server和MCP Client;
MCP Server:通過標準化的模型上下文協議暴露特定功能 ,如:
move_forward(distance)
move_backward(distance)
MCPClient :與MCP server 保持 1:1 的連接,管理大模型與MCP Server的交互流程,包括工具調用、資源訪問、數據傳輸等。
04系統聯調與驗證
通過語言指令如“向前移動一米”驗證AI→MCP→RTOS→執行器的完整鏈路;評估系統整體響應時延、控制精度與穩定性。
通過輸入語言命令控制小車移動:
決策系統(Ubutnu):通過語言指令控制小車移動
控制系統(RT-Thread):控制電機執行移動動作
當前嵌入式與邊緣AI場景中存在決策與控制系統分離、通信低效、集成復雜以及無法充分利用AI功能,因此,本文基于vmRT-Thread通過虛擬化技術將AI決策與實時控制集成于單一SoC,使其具備良好的可移植性與多場景適應能力;采用共享內存機制替代傳統通信方式,提升整體鏈路性能;為AI Agent控制具身智能提供模板。既滿足了人機交互的可能,又能滿足AI與嵌入式結合,為邊緣AI應用提供創新解決方案。
-
嵌入式
+關注
關注
5146文章
19597瀏覽量
316272 -
RT-Thread
+關注
關注
32文章
1387瀏覽量
41696 -
MCP
+關注
關注
0文章
273瀏覽量
14313
發布評論請先 登錄
通過vmRT-Thread和ROS2賦能機器人智能開發

【「具身智能機器人系統」閱讀體驗】+初品的體驗
【「具身智能機器人系統」閱讀體驗】1.初步理解具身智能
【「具身智能機器人系統」閱讀體驗】2.具身智能機器人的基礎模塊

具身智能與機器學習的關系
什么是具身智能?自動駕駛是具身智能嗎?
廣和通具身智能開發平臺Fibot推動產業變革
廣和通Fibot:以具身智能撬動產業變革,解碼跨AI行業的產學研用生態密碼

RT-Thread睿賽德亮相微電子工業展:虛擬化開啟具身智能開發新紀元

評論