電子發燒友網報道(文/李彎彎)邊緣AI芯片低功耗設計是其在移動設備、物聯網終端等資源受限場景中落地的關鍵。在物聯網、可穿戴設備、智能家居等對功耗敏感的應用場景中,低功耗設計直接決定了設備的續航能力、部署成本及用戶體驗。
為什么邊緣AI芯片需要低功耗設計?
從應用場景層面來看,首先是設備供電受限,如智能手表、無線傳感器、可穿戴設備等依賴電池供電,低功耗設計直接決定續航時間。在太陽能、射頻能量收集等自供電系統中,芯片功耗需低于能量收集速率,否則設備無法持續運行。
其二是部署環境苛刻,在工業監測、農業物聯網等場景中,設備可能部署在難以更換電池或無法接線的區域。例如,橋梁結構監測傳感器需連續工作數年,功耗需低于1mW。功耗過高會導致芯片發熱,影響穩定性與壽命。例如,在汽車電子中,芯片需滿足AEC-Q100標準,低功耗設計可減少熱應力導致的失效風險。
從技術發展層面來看,首先,能效比(TOPS/W)是核心指標,邊緣AI芯片需在有限功耗下提供高算力。例如,特斯拉FSD芯片以72W功耗實現144TOPS算力,能效比達2TOPS/W,滿足自動駕駛實時性需求。低功耗設計可突破“功耗墻”限制。例如,傳統GPU在移動端因功耗過高(>20W)難以應用,而專用邊緣AI芯片可將功耗壓縮至數百mW級。
其次,散熱與封裝成本約束,高功耗芯片需配備散熱片或風扇,增加體積與成本。例如,桌面GPU功耗可達300W,需主動散熱;而邊緣設備芯片功耗需控制在5W以內,可采用被動散熱。低功耗設計可簡化封裝要求。例如,采用Chiplet技術的邊緣AI芯片通過2.5D封裝降低互連功耗,同時減少對散熱材料的需求。
邊緣AI芯片低功耗設計方法
從硬件架構優化角度來看,如專用加速器NPU、DPU等,設計針對AI運算(如矩陣乘加)的專用電路,提升能效比。例如,Google TPU通過脈動陣列減少通用計算單元的冗余操作。如異構計算架構,結合CPU(控制)、GPU(并行計算)、NPU(AI推理)等模塊,按任務類型動態分配計算負載。輕量級任務由CPU處理,復雜模型交由NPU,避免資源浪費。
還有一些創新架構設計方向,如存算一體化,減少數據搬運,在存儲單元附近直接完成計算,降低I/O功耗。技術路徑實現方面有存內計算、近內存計算。再如事件驅動架構,采用脈沖神經網絡(SNN)或事件相機傳感器,僅在數據變化時觸發計算,減少靜態功耗。
從算法與模型優化角度來看,如模型壓縮技術,剪枝,移除冗余神經元或權重(稀疏化),降低計算量;量化,將32位浮點模型轉為8位整數,減少乘法器和內存訪問能耗;知識蒸餾,用大模型訓練輕量級學生模型,保持精度同時降低計算需求。
??
如輕量級網絡設計,使用MobileNet(深度可分離卷積)、EfficientNet(復合縮放)等結構,平衡精度與計算量。再如動態推理,在推理過程中設置檢查點,若低層已足夠準確,則提前終止計算。近似計算,允許非關鍵計算結果存在誤差,簡化運算(如低精度浮點、舍入策略)。
從動態電源管理角度,DVFS(動態電壓頻率調節),根據負載實時調整電壓和頻率,例如在空閑時進入低功耗模式(如C6睡眠狀態)。多電源域劃分,將芯片劃分為多個電源域,按需開啟或關閉(如攝像頭模塊僅在檢測到運動時供電)。自適應功耗策略,結合負載預測(如LSTM預測任務周期),動態調整電源狀態。
還有軟件與系統協同方面,編譯器優化,通過指令級并行(ILP)優化、內存訪問合并,減少計算周期和能耗。操作系統調度,任務級功耗管理,優先調度低功耗核心處理簡單任務,高負載時喚醒高性能核心。應用層策略,喚醒詞檢測(如Alexa的Always-On模式),僅運行輕量級模型,待檢測到關鍵詞后喚醒主模型。
小結:邊緣AI芯片低功耗設計是其在真實場景中落地的必要條件,直接決定了設備的可用性、經濟性和可持續性。通過硬件架構、算法優化、制程工藝等多維度協同,邊緣AI芯片得以在毫瓦級甚至微瓦級功耗下運行,滿足電池供電、實時響應、低成本部署等核心需求。
-
邊緣AI
+關注
關注
0文章
154瀏覽量
5425
發布評論請先 登錄
Nordic收購 Neuton.AI 關于產品技術的分析
RK3576 vs RK3588:為何越來越多的開發者轉向RK3576?
輕松上手邊緣AI:MemryX MX3+結合Orange Pi 5 Plus的C/C++實戰指南

6TOPS算力NPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界
Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發
FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......
AI賦能邊緣網關:開啟智能時代的新藍海
進迭時空 K1 系列 8 核 64 位 RISC - V AI CPU 芯片介紹
低功耗SOC芯片的優勢
Orin芯片功耗分析
聯發科天璣9400發布:能效比與端側AI引領移動芯片行業革新
科技新突破:首款支持多模態存算一體AI芯片成功問世

評論