(電子發燒友原創 章鷹)2025年，在快速復蘇的半導體市場里，邊緣人工智能市場是一個重要的分支領域。Markets and Markets報告顯示，全球邊緣計算市場規模將從2023年的600億美元增長至2029年的1106億美元，復合年增長率達到13%。
作為邊緣實現人工智能的專業廠商，Ceva擁有廣泛的NPU IP組合，涵蓋將人工智能嵌入MCU等微型處理器所需的IP，一直擴展到能夠在筆記本電腦和智能手機中實現生成式人工智能的NPU IP，和運行ADAS自動駕駛汽車的IP。
7月4日，在上海張江舉辦的端側AI技術峰會上，來自Ceva中國技術支持總監徐明帶來對于端側AI市場的最新趨勢分析和新品NPU IP的介紹。
Ceva IP出貨量達190億，四大需求推動了端側AI高速增長
“據我們統計，全球每秒鐘有60個包含Ceva IP的芯片在出貨，我們歷年來包含Ceva IP的芯片出貨量達到190顆以上，覆蓋了無人機、移動設備、AI、車載、多媒體等設備。” Ceva中國技術支持總監徐明表示。


什么驅動了邊緣AI高速發展？一、實時性要求，比如ADAS和輔助駕駛要求AI部署在本地；二、隱私保護，數據私密性需求日益上升，如果數據保留在本地，將大幅度降低數據被侵犯的可能性；三、端側推理可以減少功耗，從使用者成本考慮，一旦端側AI平臺部署完成后，使用者的成本接近為零，除了一些電費外，不需要租用云端服務器；四、更多的算法公司和軟件公司推出性能優異的網絡，有利于AI在端側的部署。
國際大公司比如英偉達、谷歌、高通和ARM都看好AI在端側增長的趨勢，先后推出了新芯片和新IP，在IOT和汽車端進行部署。高通正在從定制解決方案轉向可擴展的人工智能邊緣平臺，包括對Edge Impulse的收購和Dragonwing AI soc的開發使邊緣人工智能更容易被開發人員使用。英偉達邊緣人工智能平臺旨在直接在機器人(17.050, 0.32, 1.91%)和邊緣設備上訓練、模擬和部署人工智能模型，為工業、物流和自治系統的實時決策提供支持。
端側AI興起的三大要素，包括AI網絡的支持，尺寸更加精簡；硬件能力的提升來支持AI網絡的部署和落地，Ceva作為IP供應商，我們和AI芯片公司合作，一起來打造這些硬件平臺；將優秀的硬件和平臺協同起來，加速AI設備的落地。
在云端，GPU被廣泛應用，在端側應用中，我們認為NPU將會大展拳腳，支持百億數量級的端側設備。Ceva中國技術支持總監徐明分享他的觀點。

端側部署面臨挑戰，Ceva NPU IP帶來哪些助力？

“端側設備眾多，肯定具備重大挑戰。它需要我們具備端到端的解決方案。NPU要有一定的剪裁性，現在的應用算力不同，未來新需求還會冒出來，架構要具備可持續發展，需要配套成熟的軟件SDK，用于參考/優化AI模型的Model zoo框架，可互補解決方案的生態系統，以及面向未來的人工智能架構。” 徐明分析說。
Ceva推出了可以剪裁的NPU IP，加上成熟的SDK，來服務于整個端側AI的應用。徐明強調，Ceva針對性地提出了相關人工智能戰略，即通過可擴展的NPU+SDK助力智能邊緣，在可擴展的NPU系列方面，包括支持從數據中心到邊緣設備的AI推理，以及優化超低功耗和實時性能。在全棧集成方面，硬件工具主要有NeuPro NPUs+ SensPro DSP，軟件工具主要包括NeuPro-Studio SDK、圖形編譯器。



徐明強調，Ceva的NeuPro NPU具備重要的優勢和差異化特征，即可擴展性、極致能效比和高度集成性。CEVA針對transformer網絡做了原生的支持和優化，特別適合生成式AI。可以實現高吞吐量的人工智能應用，且只消耗最小的功耗——針對Llama 2 和Llama3.2的一些網絡可達3500Tokens每秒/瓦的性能。
其次，在NPU架構可擴展性方面，單核算力可橫跨MCU到高端SoC（10 GOPS - 400 TOPS），以支持音頻、視覺、故障檢測、智能手機、ADAS等應用。另外，CEVA融合了DSP與NPU，具有傳感器數據前處理、AI推理、后處理的統一平臺。
從應用上來講，正是Ceva具備可以剪裁的NPU IP， 我們可以支持從低算力應用到高算力應用，比如從可穿戴的低功耗設備，到目標檢測、目標識別和智能安防監控等設備。大算力應用包括ADAS、智能駕駛、生成式AI應用都可以覆蓋。
據悉，Ceva的NeuPro-M和NeuPro-Nano兩大產品解決方案，是適用于各種工作負載的全套NPU IP，同時統一的AI SDK易于采用，可廣泛應用于預測與維護、健康及健身、物體識別、監控、ADAS和Co-Pilot等應用場景。整體上，根據10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三個不同算力等級劃分，Ceva針對性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K產品，使得NeuPro NPU系列支持任何邊緣人工智能部署。