作者： Imagination Technologies 的產品管理副總裁 Dennis Laudick

人工智能（AI）在邊緣計算領域正經歷著突飛猛進的高速發展，根據IDC的最新數據，全球邊緣計算支出將從2024年的2280億美元快速增長到2028年的3780億美元*。這種需求的增長速度，以及在智能制造、智慧城市等數十個行業中越來越多的應用場景中出現的滲透率快速提升，也為執行計算任務的硬件設計以及面對多樣化場景的模型迭代的速度帶來了挑戰。

AI不僅是一項技術突破，它更是軟件編寫、理解和執行方式的一次永久性變革。傳統的軟件開發基于確定性邏輯和大多是順序執行的流程，而如今這一范式正在讓位于概率模型、訓練行為以及數據驅動的計算。這并不是一時的潮流。AI 代表了計算機科學的一次根本性、不可逆的轉變 —— 從基于規則的編程，邁向自適應的、基于學習的系統，這些系統正逐步被集成到越來越廣泛的計算問題與能力中。

這一轉變也對硬件提出了相應的變革需求。在AI架構和算法不斷演進（并將持續演進）的時代，為狹窄定義任務而打造的高度專用芯片的舊模式已不再適用。為了滿足不斷變化的AI需求（尤其是在邊緣側)，我們需要具備與工作負載同樣動態、適應能力強的計算平臺。

這正是通用并行處理器（即GPU）成為邊緣AI未來的關鍵所在，并開始取代專門的處理器，如神經網絡處理器（NPU）。這不僅僅是性能上的考量——它關乎靈活性、可擴展性，以及與未來軟件發展趨勢的同步。

Makimoto波動理論與“靈活性”的回歸

要理解這一轉變，我們只需回顧“Makimoto波動理論”：這是由日本工程師牧本次雄（Tsugio Makimoto）提出的一個概念，描述了計算產業在不同階段不斷在“標準化”與“定制化”之間擺動的趨勢，其背后是市場需求、技術創新和軟件復雜性等因素的持續變化。

（Makimoto波動理論展現了計算產業在“靈活性”與“專用性”之間的歷史擺動。而當前AI的發展軌跡，標志著計算正再次呈現出在“靈活性”和“通用平臺”之間的擺動。）

這一模型與AI硬件的演變過程高度契合。在AI發展的早期階段，工作負載較為明確且穩定，此時采用NPU等固定功能加速器是合理的。這類處理器對特定任務（例如使用CNN進行圖像分類或目標檢測）進行了深度優化。

但如今AI已進入高速演進階段。我們已走出簡單、靜態模型的時代，邁入混合網絡、Transformer架構、基礎模型和持續創新的浪潮之中。為去年AI打造的定制硬件，根本無法跟上當今的發展節奏。

正如我們在本文一開始所介紹的那樣，當一個行業不得不去面對超高的增長率，以及每天都在不斷出現的新應用場景和為此而快速迭代的模型，使我們再次站在了“Makimoto拐點”上——從專用硬件，回歸到可擴展、可適配的通用計算平臺。

AI是一個并行計算問題，而非專用計算問題

AI的本質在于并行計算。深度學習嚴重依賴并發操作——矩陣運算、張量乘法、向量計算——這些正是GPU天生擅長的工作負載。能夠同時渲染數百萬像素的架構，如今正好可以處理數百萬神經元的激活。

如今的通用GPU早已不僅僅用于圖形處理。它們擁有可編程管線、計算著色器，以及日益增強的AI中心化設計，不僅能加速傳統負載，也能支持新興的AI工作負載，是邊緣AI中強大而靈活的計算引擎。

相比之下，像NPU這樣的專用處理器則難以應對持續的變革。它們對特定操作進行了優化，而當AI領域快速演進時，這些芯片便迅速被淘汰。顯然，面對這種全新的軟件范式，我們需要的是一種通用的、并行的、靈活的硬件平臺—— GPU。

為什么通用平臺在邊緣側更具優勢

邊緣AI不僅需要性能，更需要適應性、可重用性與較長的生命周期；隨著AI處理器的設計越來越復雜，且隨著市場規模的擴大會吸引更多的玩家，大家都爭相采用更先進的工藝來實現性價比和功耗的優化，以及在生態建設方面的大量花費，使得每個芯片項目的投入正變得越來越高。針對這些技術經濟學挑戰，現代GPU等通用并行處理器在這幾個方面均具備明顯優勢：

靈活性：可編程，能夠支持新的模型類型而無需更換硬件；

可擴展性：可適配從物聯網（IoT）傳感器到智能攝像頭再到自動駕駛汽車等各種邊緣設備；

軟件生態成熟：擁有豐富的開源工具與開發標準（如OpenCL、LiteRT和TVM）；

可持續性：延長產品生命周期，減少不斷重新設計芯片的需求。

簡而言之，GPU的通用并行計算從架構層面就為AI的持續演進而設計。而GPU領域內的本身創新也在快速驗證這一趨勢，例如Imagination在不久前發布的E系列GPU就具有突破性的高效并行處理架構，在提供卓越圖形性能的同時，針對人工智能工作負載，其 INT8/FP8 算力可在 2 到 200 TOPS 之間擴展。

展望未來

盡管有越來越多的證據說明GPU具備的優勢，市場仍然習慣將AI加速與NPU或定制芯片劃等號。但正如圖形行業早年發現，固定功能的圖形管線無法跟上游戲創新的節奏；如今AI行業也發現：固定硬件無法匹配快速變化的軟件需求。

是時候重新教育整個生態了。邊緣AI的未來不屬于那些高度優化但功能狹窄的芯片，而是屬于可編程的、可適配的并行計算平臺，它們能與智能軟件共同成長并擴展。諸如Imagination全新的E系列GPU，它為未來的邊緣應用提供了一種通用且可編程的解決方案，涵蓋圖形渲染、桌面和智能手機等領域，可實現自然語言處理、工業計算機視覺以及自動駕駛等應用。

幾十年前，Makimoto就洞察了這一趨勢。如今，我們正在親身經歷他的遠見——順應著通用性和靈活性的浪潮前行。GPU不再是追趕者，它已處于領先位置。

關于作者

Dennis Laudick擔任Imagination Technologies的產品管理副總裁。在加入公司之前，Dennis曾在Arm任職超過13年，擔任汽車、AI和GPU相關業務的產品與市場領導職務。在此之前，他還曾在多家半導體與OEM巨頭企業擔任高級管理崗位。

審核編輯 黃宇