●●●

PART. 01

產品簡介

Module LLM Kit 是一款專注于離線 AI 推理與數據通信接口應用的智能模塊套件，整合了 Module LLM 與 Module13.2 LLM Mate 模塊，滿足多場景下的離線 AI 推理與數據交互需求。Module LLM 是一款集成化的離線大語言模型 (LLM) 推理模塊，專為需要高效、智能交互的終端設備設計。Module13.2 LLM Mate 模塊通過 M5BUS 接口與 Module LLM 實現堆疊供電，并提供Type-C，RJ45，FPC-8P 等多種接口功能，便于系統集成和擴展。

PART. 02

產品特性

◎ 高算力，低能耗

Module LLM Kit 采用 愛芯AX630C SoC 先進處理器，內置 3.2 TOPs 高能效 NPU，支持 Transformer 模型推理，輕松應對復雜 AI 任務。模塊搭載 4GB LPDDR4 內存（其中 1GB 供用戶使用，3GB 專用于硬件加速）及 32GB eMMC 存儲，支持多模型并行加載與串聯推理，滿足多任務處理需求。模塊運行功耗僅 1.5W，遠低于同類產品，節能高效，適合長期穩定運行。

◎便捷語音與數據交互

集成麥克風、揚聲器、TF 存儲卡、USB OTG 及 RGB 狀態燈，滿足多樣化應用需求，輕松實現語音交互與數據傳輸。

◎ 靈活拓展

板載 SD 卡槽支持固件冷/熱升級，UART 通信接口簡化連接與調試，確保模塊功能持續優化與擴展。USB 口支持主從自動切換，既可以做調試口，也可以外接更多 USB 設備如攝像頭。

◎多模型兼容

出廠預裝 Qwen2.5-0.5B 大語言模型，內置 KWS（喚醒詞）、ASR（語音識別）、LLM（大語言模型）及 TTS（文本生成語音）功能，且支持 apt 快速更新軟件和模型包。安裝 openai-api 插件后，即可兼容 OpenAI 標準 API，支持聊天、對話補全、語音轉文字和文字轉語音等多種應用模式。官方 apt 倉庫提供豐富的大模型資源，包括 deepseek-r1-distill-qwen-1.5b、InternVL2_5-1B-MPO、Llama-3.2-1B、Qwen2.5-0.5B 以及 Qwen2.5-1.5B，同時還涵蓋文本轉語音模型（whisper-tiny、whisper-base、melotts）和視覺模型（如 yolo11 等 SOTA 模型）。倉庫將持續更新，以支持最前沿的模型應用，滿足各種復雜 AI 任務。

◎ 即插即用，快速集成

搭配 M5 主機，無需繁瑣設置，即可將其集成到現有智能設備中，快速實現 AI 交互體驗。

PART. 03

應用場景

◎ 離線語音助手

◎ 文本語音轉換

◎ 智能家居控制

◎ 互動機器人