在數字化發展進程中,邊緣智能(Edge Intelligence)已成為驅動各行業變革的關鍵力量。作為融合了邊緣計算與人工智能,兼具近端處理與智能分析優勢的創新技術,邊緣智能不但能實現低延遲、高實時決策,還能夠降低帶寬需求并強化隱私安全,同時能夠完成和物理世界的交互,被廣泛應用于自動駕駛、智能制造、智能城市、遠程醫療、視頻監控等多個領域。本文將深度聚焦邊緣智能發展現狀、技術突破、落地瓶頸等話題,共同探討如何更好賦能各行業數字化、智能化轉型。
邊緣智能為何備受關注?
根據Market.US的研究,全球邊緣智能市場規模預計將從2023年的191億美元增長至2032年的1400+億美元,年復合年增長率(CAGR)接近26%。而Precedence Research的數據則顯示,邊緣計算市場在2032年可能達到3.61萬億美元,CAGR達到了30.4%。
盡管數字的差異反映了不同研究機構對“邊緣”的定義,以及對通用計算、AI計算邊界劃分的不同,但由此展現出的共同趨勢是明確的——算力下沉與場景化部署已成為不可逆的潮流,而且都給出了高達30%左右的年復合增長率。
“在歷經多年云端高性能、超大規模模型的創新實踐和充分驗證后,如今的我們正見證著精準、高效、快速的AI模型從云端走向智能手機、汽車等邊緣設備終端。”Imagination產品管理副總裁Dennis Laudick指出,企業和用戶選擇在邊緣端而非云端處理AI任務的原因是多種多樣的——從保護生物特征、位置信息、財務數據等敏感信息,到確保無網絡連接時仍能提供可靠、即時響應的服務。
Imagination產品管理副總裁Dennis Laudick
與此同時,邊緣硬件也正突破性能瓶頸,在設備體積與功耗的嚴格限制下(多數邊緣設備依賴電池供電)實現所需的AI算力。據Counterpoint Research預測,到2028年,54%的移動邊緣設備將具備AI處理能力。
芯科科技(Silicon Labs)方面的看法是,近年來,邊緣智能作為一種邊緣計算與人工智能的融合技術,能夠在邊緣設備上進行數據處理和智能決策,成為諸多行業追求高效智能操作、降低數據處理延遲、減少帶寬消耗和增強隱私保護的重要手段,為工業、商業、醫療、家庭應用等諸多行業帶來了新的發展機遇和變革。
尤其是邊緣智能通過網絡邊緣進行數據處理和分析,能夠實時響應各種業務需求,為行業數字化轉型提供了強大的技術支持。例如,在工業智能制造領域,邊緣智能可以幫助企業實現設備狀態的實時監控和故障預測,提高生產效率和產品質量。在醫療等需要實時處理和快速響應的應用場景中,邊緣智能通過將數據處理任務從云端轉移到離數據源更近的邊緣設備上,可以顯著降低數據傳輸延遲,提高數據處理效率。
XMOS亞太區市場和銷售負責人牟濤表示,在功能上,邊緣智能一方面使設備能夠在本地處理數據,減少數據傳輸延遲和泄漏風險,實現低延遲、快速響應且保護隱私的邊緣AI處理;另一方面,作為大型智算中心或云網絡的智能數據接口,通過AI對傳感器數據進行組織等預處理,并在AI系統處理后轉換數據格式以確保可靠運行。

XMOS亞太區市場和銷售負責人牟濤
因此,與那些裝備精良、耗費靡多的智算中心中強大的GPU和NPU不同,邊緣智能系統對功耗、成本和芯片占板面積等因素要求甚嚴,因而高效率處理器或者SoC產品是邊緣智能否取得成功的第一個關鍵因素。
落地普及程度差異明顯
盡管邊緣智能正經歷從“單點突破”到“系統重構”的質變階段,但不可否認的是,邊緣智能在不同國家、不同行業的應用普及程度還存在比較明顯的差異。
愛芯元智創始人、董事長仇肖莘博士以輔助駕駛為例做了更進一步的解釋。她指出,在國際上,歐美在基礎算法創新和芯片架構上領先,比如特斯拉通過自研芯片實現邊緣訓練和部署閉環。而中國在場景落地和工程化創新上更具優勢,比如中國車企會通過場景閉環快速迭代量產方案。其更深層的影響在于:邊緣智能正在重構行業價值鏈——制造業的“檢測-維護-優化”全流程閉環、城市治理從“事后響應”到“預測干預”的范式轉移,本質上是通過智能將數據轉化為生產力要素的進程。

愛芯元智創始人、董事長仇肖莘博士
整體而言,中國目前處于從技術驗證進入規模化應用階段,邊緣智能可以更好的完成物理世界的數字化、智能化,從而提高行業的效率,并進一步完成成果自動化交付。例如輔助駕駛已經進入到標配階段;邊緣智能可以分析路口實時數據,優化信號燈設置,降低擁堵率。在生產領域,邊緣智能可以實時分析設備的運行數據,進行預測性維護,提前預警故障,減少停機時間。或者是在生產時進行缺陷檢測,縮短質檢周期,降低錯誤漏檢率。
而邊緣智能之所以會在不同行業產生顯著的普及速度差異,仇肖莘博士認為是其核心驅動力在場景需求剛性、技術經濟性和數據敏感性等方面的不同,“智慧城市、輔助駕駛、家庭數據中心和具身智能等前沿應用,就明顯更適于邊緣智能的普及”。
比如家用或工業機器人往往需要快速響應,尤其后者甚至需要毫秒級響應,邊緣智能直接在設備端處理數據,避免云端延遲;而工廠生產數據(如工藝參數)敏感,邊緣計算可減少外傳風險;同時,高頻傳感器數據(如振動、溫度)本地處理,環境的always on主動感知分析,能夠降低帶寬、云存儲成本和云服務成本。
仇肖莘博士以家庭數據中心舉例,其作為“神經中樞”可以是邊緣+具身智能的融合,可以協調服務機器人、智能家電等終端,比如冰箱邊緣AI識別食材存量→具身機器人自主下單采購;家庭監護邊緣系統觸發警報→監護機器人前往查看,等等。
相應地,相較于邊緣智能所具備的低延遲、隱私保護、離線可用性等優勢,某些行業因業務特性、技術限制或經濟因素,邊緣智能推進較慢,云計算占據著主導地位。如銀行、保險等金融行業,其數據需長期存檔并接受監管審查,反欺詐、風險評估等任務依賴千億參數模型,邊緣智能的存儲和算力都有待發展。
“但必須明確的一點是,邊緣計算不等于廉價的云計算。”仇肖莘博士指出,“邊緣側需要‘生于邊緣,且專為邊緣設計’的全新計算架構。”這一趨勢判斷在愛芯元智的技術戰略上得到充分體現,其自研的愛芯通元NPU架構被定義為“原生支持邊端智能”的AI時代專用處理器。
“邊緣AI的發展速度很快,尤其是近一年來,關注度明顯提高,但仍處于市場萌芽階段。”英飛凌科技大中華區消費、計算與通訊業務市場總監彭祖年認為,邊緣AI在提高實時響應能力、節約功耗、以及擺脫對網絡依賴等方面展現出的能力,大幅提升了很多產品的用戶體驗。

英飛凌科技大中華區消費、計算與通訊業務市場總監彭祖年
從發展趨勢來看,目前邊緣AI相對來說還比較依賴于大模型的開發經驗,主要是將大模型通過裁剪、蒸餾等技術小型化到邊緣主控芯片上運行。因此,視覺和語音識別等應用接納速度就比較快,那些沒有現成模型可借鑒的細分場景,就需要較長的技術積累和開發周期。而未來的AI模型一定會以嵌入式場景為基礎,強調高效和實時性,因此針對嵌入式場景的模型訓練是值得重點關注的。
交談中,Dennis也提到了汽車行業。作為邊緣智能技術應用最廣泛的領域之一,如今每輛汽車都搭載了不同層級的本地人工智能系統——從簡單的攝像頭畫面去畸變與拼接(用于全景影像功能),到更為復雜的無干預自動駕駛技術(通過環境感知算法和路徑規劃算法實現)。
“汽車行業之所以能快速擁抱這項技術,不僅因為該領域的人工智能應用場景和商業模式清晰(制造商可為搭載更先進ADAS功能的車輛設置更高溢價),更得益于車載大容量電池能為高性能邊緣AI系統提供充足電力支持。”他說。
相比之下,智能手機等市場仍在探索適合邊緣AI的商業模式。雖然部分企業通過AI圖像編輯工具實現了差異化競爭,但移動設備的性能局限要求處理技術必須實現更高能效——即便運行輕量化模型也需突破算力瓶頸。
芯科科技對《電子工程專輯》表示,邊緣智能技術在不同行業的應用普及程度存在一些差異,主要與技術適配性、行業需求緊迫性、基礎設施成熟度等因素影響有關。在他們看來,邊緣AI/ML將更廣泛應用于商業、工業和家庭,包括傳感器數據處理(用于異常檢測)、預測性維護、音頻模式識別(用于改進玻璃破碎檢測)、簡單命令詞識別,以及視覺應用(使用低分辨率攝像頭進行在場檢測或人數統計)等等。
牟濤的觀點與上述受訪人基本一致。他認為,邊緣智能的發展不僅需要AI技術創新的拉動,同時還需要傳統行業在實現數字化和網絡化之后,積極探索用AI技術來再一次實現轉型升級的推動力。所以許多已經從數字化中獲得巨大收益的行業,往往成為帶動新一輪邊緣智能發展的重要領域,如安裝量巨大的物聯網領域、走向“新四化”的汽車行業、以及數字消費電子設備領域。
例如,智能家居、智能手機、筆記本電腦、平板電腦、可穿戴設備、智能音箱、智能相機和智能電視等帶有AI功能的新興消費電子產品在迅速增長,它們在傳統CPU以外,還在主控SoC中集成了GPU和/或NPU等AI加速器,使其能夠低能耗地運行各種AI模型,帶來了全新的用戶體驗和設備生產力。同時,它能夠在本地處理隱私信息,無需將敏感數據上傳至云端以保護用戶個人隱私。
在汽車和工業應用中也是如此,一方面這些系統的開發者正在通過添加各種傳感器和環境感知手段來收集巨量的數據,并利用GPU或NPU從這些數據中通過各種機器學習或者其他AI模型和算法,形成高價值的智能化解決方案,去實現車輛的智能駕駛,或者生產出人類都無法快速分辨和判斷的新產品,并對設備進行智能化管理。
“大模型+邊緣計算”打開新空間
仇肖莘博士將硬件和算法列為重點。一方面,硬件要重點關注異構計算硬件在運行AI算法方面效率的提升,功耗的降低,總體而言就是不斷降低邊緣智能的落地成本,從而能夠讓邊緣智能覆蓋盡量多的場景,讓AI更普惠。另一方面,軟件應該重點關注模型的壓縮技術,即如何將云側模型的能力,以小模型、低成本的方式在邊緣側更好、更智能的運行起來。
而DeepSeek大模型的橫空出世,更是為邊緣智能帶來了“能力下沉”和“場景適配”的雙重機遇。最初,DeepSeek曾是云端計算的標桿,但正如眾多基礎模型的發展軌跡一樣,如今也推出了能夠適配邊緣設備的輕量化版本——DeepSeek-VL2系列模型在性能上足以與現有開源密集型及混合專家(MoE)模型比肩。
在DeepSeek的加持下,大模型的通用認知能力通過知識蒸餾、模型壓縮等技術,不但實現了AI智能的普及教育,也賦能邊緣側實現了更精準的細粒度感知和復雜決策,激發出大量的邊緣智能需求,而且DeepSeek MoE架構也給邊緣智能降低硬件成本提供了嶄新的思路。
同時,這一演進還印證了AI領域仍能通過軟件創新實現重大突破:當開發者社區獲得兼具靈活架構與強勁性能的硬件支持時,他們能以驚人速度針對特定市場或設備需求定制新模型,DeepSeek的蛻變正是這種“算法-硬件協同進化”的生動范例。毫不夸張地說,“大模型+邊緣計算”的技術范式正在打開新的價值空間。
“正如DeepSeek等突破性技術所展現的那樣,當前階段人工智能在準確性、性能和能效方面的重大飛躍,主要源自軟件領域的創新。”Dennis認為這一規律在邊緣計算領域與云計算領域同樣適用——要讓先進算法在市場廣泛普及并將其價值帶給全球用戶,技術生態圈最關鍵的使命,就是確保邊緣設備具備足夠的靈活性和可編程性,以承載最前沿的模型技術。
他認為這意味著邊緣硬件不能僅依賴NPU等過度專用化的處理器來滿足所有AI需求。這類處理器雖能高效運行已知算法并實現高性能,卻難以適配新型模型架構。反觀GPU技術,不僅能讓邊緣設備持續受益于軟件創新,更為硬件設計師和軟件開發者在AI性能與可編程性之間提供了理想平衡,這種優勢將長期延續。
然而在牟濤看來,盡管從具體的技術路徑和實現方式來看,用于圖形處理和AI訓練的GPU芯片,以及多用于在邊緣設備上實現AI推理的NPU芯片,或者搭載GPU或者NPU的各種SoC,是當前最為常見的。但對于邊緣AI應用,除了需要有足夠的算力,還需要兼顧媒體類型、運行功耗、實時性和其他系統需求,因此帶有針對邊緣AI應用的微架構(micro-architecture)以及相應開發工具的邊緣AI芯片,將會在未來邊緣智能快速發展的過程中異軍突起。
例如,采用“軟件定義系統設計+微架構AI加速”的AI SoC,就是未來的關鍵發展方向之一,因為它們能夠以更靈活的方式在廣泛場景中通過AI處理音頻、圖像和視頻等多種媒體信息。也就是說,整體平臺更加靈活、能夠通過架構創新實現特定性能的邊緣AI芯片,將有助于行業在資源受限的邊緣環境中部署AI功能時,避免局限于依賴某一類特定的功能特性。
芯科科技方面指出,邊緣智能的發展離不開物聯網、5G、人工智能、邊緣計算硬件等技術的有力支撐。在未來技術研發方向上,首先要重點關注邊緣智能與云計算的協同技術。邊緣智能適用于需要在設備上完成快速決策、低延遲或保護數據隱私的任務。云計算更適合大規模數據存儲、復雜分析和模型訓練,是對邊緣智能的補充,因為在設備層面無法完成的更高級別的處理,可以在云上處理后被傳回到邊緣設備。
其次是安全與隱私保護技術,隨著邊緣智能應用的不斷擴大,數據安全和隱私保護問題日益凸顯。數據加密傳輸、設備身份認證、隱私保護計算等技術,確保邊緣設備和數據的安全性,是接下來重要的技術研發方向。
邊緣智能,走向開源、開放
牟濤對此表達了支持的態度。在他看來,開源和開放確實是推動邊緣智能未來發展的重要手段之一?,面對千差萬別的邊緣智能場景和應用,不可能僅靠少數應用開發企業就能開發出所有商業化的模型和工具,也需要大量的開源模型和算法來支持邊緣智能盡快地落地。
“這可以支持眾多企業和開發者能夠迅速而低投入啟動項目,并‘站在巨人的肩膀上’去開發邊緣智能應用,且不會對隱私構成威脅——在邊緣部署AI模型意味著僅共享所需的元數據,而非可能在云端被濫用的原始數據。“牟濤說。
仇肖莘博士指出,開源、開放既是邊緣智能發展的核心路徑,也是其發展的重要助力,這與愛芯元智提出的“普惠AI”的使命高度契合。邊緣智能領域在落地實操中,只有開源開放基礎模型能力的提升,才能讓邊緣智能的能力快速提高。同時,通過硬件級的安全隔離,企業、家庭、個人均可在本地硬件中完成數據閉環,有效杜絕了潛在的隱私數據泄露問題,天然具備強隱私保護特性。
Dennis則補充說,人工智能領域將始終呈現開源模型與專有模型并存的格局。而科技行業現在亟需協同推進的一個關鍵方向,就是制定開放標準以實現AI軟件在不同設備和硬件間的可移植性。目前已有諸多實踐范例,例如面向邊緣設備運行AI模型的開源庫LiteRT,以及UXL基金會推出的異構計算標準oneAPI。
因為軟件雖然是打造優質智能體驗的核心要素,但其快速攀升的開發成本已成為多個市場的隱憂。促進AI工作負載可移植的開放標準,將成為降低軟件開發成本、推動邊緣智能規模化落地的基石。
在隱私與數據安全方面,邊緣智能具備天然優勢。由于邊緣AI在本地設備端運行,健康數據、財務信息等敏感內容無需上傳至云端。這種架構有效規避了云端AI在隱私保護方面的不確定性風險,為用戶數據筑起安全屏障。
彭祖年對開源、開放的適用領域做了進一步細化。他強調指出,開源、開放通常指代的是模型本身,而不是數據——無論是用于模型訓練的數據,還是用戶使用時的本地數據,都是要受到保護的。因此英飛凌在PSOC Edge AI MCU設計之初就加入了支持高階信息安全認證的安全硬件,以保護數據不被侵犯和竊取,大大降低用戶隱私數據的泄露和遭濫用的風險。
魚和熊掌能否兼得?
隨著邊緣智能應用場景的不斷豐富,人們一方面希望實現跨場景的數據共享與融合,以挖掘更大的價值。另一方面,又想降低邊緣智能技術在各行業應用中的成本。如何解決好這兩方面的問題,成為人們關心的重點。
Dennis認為這些發展機遇并非相互排斥,而是可以并行推進。對于廣告、保險等應用場景,數據共享能幫助第三方洞察用戶行為,從而釋放商業價值。當然,與第三方共享數據并非必須選項——重視數據安全的企業完全可以通過私有云部署高性能AI算法:這類方案能夠聚合企業內多終端數據,在私有服務器上進行處理,最終為決策者提供統一的數據視圖。
設備端數據處理則開辟了另一個重要市場。在互聯網連接不穩定、需要極速響應、或要求數據完全不離設備(如智能手表)的場景中,低成本的邊緣智能技術將推動智能化應用的普及。
當然,某些情況下云端與邊緣的界限會存在重疊——當AI任務既可在邊緣處理也能上云時,應用開發者需要權衡兩者帶來的用戶體驗與成本效益。畢竟,云計算服務可從來不是免費的!
人工智能技術向邊緣和端側快速擴散,被牟濤視作2025及今后非常重要的趨勢之一。“算力下沉”只是這種新發展的一個方面,在端側或者邊緣不僅需要算力、成本和功耗的平衡。更關鍵之處在于,嵌入式系統需要實現模型、組件與場景的深度集成并具備高靈活性,同時讓更多熟悉特定場景的開發者能夠通過優化的解決方案滿足市場需求。
“這兩方面的核心,是平衡好數據價值密度與部署經濟性之間的關系跨場景的融合,能夠讓智能感知更加的充分、提升數據價值密度,提高邊緣智能部署投入的ROI,即使單體的邊緣智能成本上升,但是總體TCO仍保持下降。由此可見,兩者并不矛盾。”仇肖莘博士進一步表示,“未來邊緣計算的行業標準不再由算力峰值主導,而是由場景性能指標定義,沒有場景深度的企業將面對挑戰”。
實現跨場景的數據共享與融合離不開無線連接技術,作為該領域的領先公司,芯科科技憑借在物聯網無線連接領域的優勢,為邊緣設備提供更穩定、高效的連接方案,降低邊緣設備的能耗,延長續航時間,減少部署和維護成本。諸如在醫療領域,通過人工智能軟件,從醫療信息系統等靜態數據集(如電子病歷)中匯總數據,然后將其與實時數據相結合,以顯示身體狀況,實現個性化的醫療。
從“場景適配”到“能力重構”
仇肖莘博士預測,未來3-5年,是邊緣智能規模化落地的時間,邊緣智能將經歷從“場景適配”到“能力重構”的質變。隨著異構計算范式逐漸成熟、“動態感知——決策”在邊緣測的閉環、以及隱私計算原生架構等技術方面的演進,邊緣計算將在智慧城市、智能駕駛、智慧制造、智慧家具等方面實現顛覆性的規模化落地,“事實上,邊緣智能的發展將徹底重構人機交互、產業效率和社會治理的底層邏輯”。
可以預見,邊緣智能將逐步擺脫“云計算附屬”的定位,成為重構物理世界運行規則的基礎設施。當城市管網、農機設備、能源裝置等實體通過邊緣節點獲得自主進化能力時,人類社會的生產力革新將進入“環境智能”驅動的新紀元。
“將AI模型部署在MCU這類小系統上不失為一種兩全其美的方法。MCU對系統資源需求少,實時性強,而隨著MCU級別的NPU的成熟,本地的推理能力不斷提升,就可以支持小系統上的AI算力。”在彭祖年看來,未來3-5年里,“邊緣AI是一條兩位數增長的快車道”,會出現越來越多的細分市場,尤其是在AI結合低功耗領域,是“相當有希望的方向”。
Dennis則堅信邊緣硬件系統設計即將迎來一個激動人心的新階段。眾所周知,邊緣AI的未來發展需要高效能、高性能且具備足夠靈活性以適應未來工作負載的硬件解決方案。以往需要圖形處理能力的邊緣系統設計者或許不再需要額外配置NPU芯片,一些性能更強、面積更小的GPU即可滿足全部需求。
牟濤認為,目前幾乎所有曾經由傳統數字芯片控制的市場都在向智能化轉型,因此智能化以及其帶來的對存儲、通信和網絡芯片的需求,是當前全球半導體市場最大的增長動力。例如即使在非常傳統的音頻技術領域,采用邊緣智能技術也可以取得可觀的市場成績。
芯科科技目前正專注于開發具有內置機器學習功能的低功耗、小尺寸產品,以便直接在設備上處理數據。尤其是考慮到機器學習可以用于具有傳感器、麥克風和攝像頭的嵌入式系統中,以分析時間序列、音頻模式(包括語音命令)和圖像(用于物體檢測和指紋讀取)等數據。
這樣做的好處是顯而易見的。首先,邊緣智能減少了延遲,在本地處理數據意味著能夠做出更快的決策和采取實時行動,這對于需要實時響應的任務或安全關鍵型應用尤為重要。即使在出現網絡問題或管理限制的情況下,邊緣智能也能確保本地處理系統正常運行。
其次,由于敏感數據保留在設備上,因此只傳輸推理結果/元數據。這就降低了入侵和黑客攻擊的風險,從而增強了安全性和隱私性,并保護了知識產權。最后,通過從云端卸載處理過程,邊緣智能本身具有更低的功耗,并延長設備電池的續航時間。
結語
隨著物聯網技術的不斷成熟,越來越多的設備能夠連接到網絡并生成數據,這些數據需要在邊緣進行實時處理和分析,從而推動了邊緣智能的發展。與此同時,AI模型、AI加速器為邊緣智能提供了更強大的計算能力,能夠支持復雜的AI算法和大規模的數據處理,使得邊緣智能的應用場景正從工業領域逐步拓展到包括智能家居、可穿戴設備、智能醫療等在內的消費領域,前景十分廣闊。
(責編:Franklin)
-
數字化
+關注
關注
8文章
9524瀏覽量
63578 -
自動駕駛
+關注
關注
789文章
14320瀏覽量
170629 -
邊緣智能
+關注
關注
1文章
90瀏覽量
8080
發布評論請先 登錄
造紙行業數字化物聯網解決方案
工業邊緣計算:開啟工業變革新引擎
餐飲產業設備加速數字化升級,瑞迅科技觸控一體屏成智能新引擎
三安光電數字化變革項目正式啟動
5G網關+工業互聯網平臺助力智能工廠數字化轉型
MBox20工業網關:以邊緣計算和遠程調試驅動工廠數字化建設
MBox20邊緣計算網關助力各種數字化升級

數字化焊接控制系統的革新應用與深度探索
數字化轉型:重塑企業未來的創新引擎
NVIDIA Omniverse加速零售數字化轉型
推動TPM成功數字化的關鍵是什么
智能化革新加速,白色家電如何應對“成長焦慮”?

評論