AI 正在向邊緣遷移

從聊天機(jī)器人、內(nèi)容生成到高級(jí)數(shù)據(jù)分析，AI 已無(wú)處不在。過(guò)去，大多數(shù) AI 處理都在云端完成。然而，隨著模型功能日益強(qiáng)大以及對(duì)實(shí)時(shí)洞察的需求持續(xù)增長(zhǎng)，AI 正在向邊緣轉(zhuǎn)移。智能攝像頭和傳感器中的卷積神經(jīng)網(wǎng)絡(luò) (CNN) 已印證這一趨勢(shì)。 但面對(duì)大語(yǔ)言模型 (LLM) 等新一代 AI 技術(shù)，時(shí)延、功耗和成本受到嚴(yán)格限制的嵌入式環(huán)境能否運(yùn)行如此復(fù)雜的工作負(fù)載？簡(jiǎn)而言之：可以，但這需要新型硬件的支持。

為何邊緣 AI 需要新方法

在邊緣部署 AI 并非只是將云端模型移植到小型設(shè)備，而是需要重新審視系統(tǒng)架構(gòu)，以滿足以下關(guān)鍵需求：

更低時(shí)延（如機(jī)器人、自主系統(tǒng)、智能制造和醫(yī)療影像）；

嚴(yán)苛的功耗和散熱限制（如電池供電設(shè)備和無(wú)風(fēng)扇外殼）；

安全性和數(shù)據(jù)主權(quán)（如本地處理敏感數(shù)據(jù)）；

更長(zhǎng)的產(chǎn)品生命周期和現(xiàn)場(chǎng)更新（如工業(yè)及汽車(chē)領(lǐng)域的部署，以及更高效的新模型和算法開(kāi)發(fā)）。

盡管傳統(tǒng) GPU 架構(gòu)專為滿足數(shù)據(jù)中心的計(jì)算密集型需求而設(shè)計(jì)，但在功耗受限型和時(shí)延敏感型嵌入式環(huán)境中，其表現(xiàn)往往不盡如人意。 憑借可定制的硬件管線和高效的并行處理能力，FPGA 能夠在不產(chǎn)生額外開(kāi)銷的情況下，提供邊緣系統(tǒng)所需的出色性能表現(xiàn)。FPGA 固有的高適應(yīng)性更能讓開(kāi)發(fā)人員針對(duì)特定工作負(fù)載進(jìn)行優(yōu)化，在邊緣實(shí)現(xiàn)能效更高的實(shí)時(shí) AI，從而使其成為更具戰(zhàn)略意義的選擇。這正是現(xiàn)場(chǎng)可編程門(mén)陣列 (FPGA) 的用武之地。

FPGA 和 AI：強(qiáng)強(qiáng)聯(lián)合

憑借其可重新編程邏輯架構(gòu)、嵌入式 AI 張量模塊以及多樣化的內(nèi)存架構(gòu)選擇，Altera 的 Agilex FPGA 和 SoC 產(chǎn)品組合為邊緣 AI 提供了更具競(jìng)爭(zhēng)力的解決方案：

定制化硬件加速，無(wú)需設(shè)計(jì) ASIC；

低時(shí)延推理，可滿足時(shí)間關(guān)鍵型應(yīng)用需求；

適應(yīng)性更強(qiáng)的 AI 管線，可隨模型和標(biāo)準(zhǔn)變化而動(dòng)態(tài)調(diào)整；

能效表現(xiàn)更出色，尤其適合中低端 AI 部署場(chǎng)景。

然而，僅有可編程性還不夠。要真正加速邊緣 AI，工具鏈還須簡(jiǎn)化從模型到硬件的全流程。

從框架到 FPGA：實(shí)現(xiàn)部署路徑的自動(dòng)化

Altera 的一項(xiàng)關(guān)鍵創(chuàng)新在于彌合 AI 開(kāi)發(fā)框架（如 TensorFlow 或 PyTorch）與 FPGA 硬件部署之間的鴻溝。 借助 Altera 的FPGA AI 套件和QuartusPrime 設(shè)計(jì)軟件，結(jié)合開(kāi)源的 OpenVINO 工具套件，開(kāi)發(fā)人員現(xiàn)在能夠：

直接導(dǎo)入主流框架的預(yù)訓(xùn)練 AI 模型；

自動(dòng)優(yōu)化并量化模型以適應(yīng)邊緣硬件；

生成 RTL 并集成到更廣泛的嵌入式系統(tǒng)中；

利用 IP、參考設(shè)計(jì)和開(kāi)發(fā)套件加速產(chǎn)品上市。

這種端到端流程讓工程師能夠?qū)Ｗ⒂趧?chuàng)新，而非重新構(gòu)建基礎(chǔ)設(shè)施。

真實(shí)世界中的影響力：從高性能到低功耗

FPGA 正在各行各業(yè)推動(dòng)新一代 AI 解決方案落地：

工業(yè)自動(dòng)化：缺陷檢測(cè)、預(yù)測(cè)性維護(hù)和自適應(yīng)控制；

汽車(chē)領(lǐng)域：高級(jí)駕駛輔助和傳感器融合；

醫(yī)療領(lǐng)域：便攜式診斷和 AI 輔助成像；

智慧城市和視覺(jué)系統(tǒng)：具備端側(cè)分析能力的智能攝像頭。

視頻編碼和流媒體公司Vitec 采用 Altera FPGA 將 AI 功能直接嵌入硬件，在不增加功耗和系統(tǒng)復(fù)雜性的前提下，加快了上市速度并實(shí)現(xiàn)了全新功能。

展望未來(lái)

隨著 AI 的持續(xù)發(fā)展，相關(guān)支持硬件也必須隨之演進(jìn)。Altera 相信，未來(lái)的嵌入式智能將更具靈活性、可擴(kuò)展性和可編程性。FPGA 為實(shí)現(xiàn)這一愿景奠定了堅(jiān)實(shí)基礎(chǔ)。 無(wú)論是構(gòu)建低功耗傳感器中樞，還是高性能工業(yè)邊緣系統(tǒng)，Altera 都能提供更出色的硬件、工具、IP 和生態(tài)系統(tǒng)，在多樣化邊緣場(chǎng)景中助力 AI 落地。