電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）過去幾年，隨著英偉達(dá)推出Jetson系列開始，搭載各種AI算力芯片的邊緣設(shè)備相繼問世。因?yàn)橥庥^形似盒子，具備算法推理能力，為區(qū)分一般傳統(tǒng)工控機(jī)，行業(yè)多稱之為邊緣盒子，AI Box，算法盒子等。

隨著算法的豐富和多樣，邊緣盒子已廣泛應(yīng)用于連鎖門店，加油站、化工廠、工地、廠區(qū)、電力系統(tǒng)、電信機(jī)房、智能安防、智慧社區(qū)、校園、景區(qū)、園區(qū)等場景，快速實(shí)現(xiàn)對檢測、分類、分割和特征提取等視覺算法的支持。

AI邊緣計(jì)算盒子搭配哪些算力芯片

AI邊緣計(jì)算盒子通常可以搭配多種AI算力芯片，具體取決于其設(shè)計(jì)目標(biāo)、應(yīng)用場景以及性能需求。如GPU，雖然GPU最初是為圖形渲染而設(shè)計(jì)的，但它們現(xiàn)在也被廣泛用于深度學(xué)習(xí)和其他AI任務(wù)。GPU具有大量的并行處理單元，可以高效地執(zhí)行矩陣運(yùn)算，這對于神經(jīng)網(wǎng)絡(luò)訓(xùn)練和推理非常有用。

如NPU，NPU專門設(shè)計(jì)用于執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算，特別是深度學(xué)習(xí)任務(wù)。它們通常具有高并行度、低功耗和優(yōu)化的浮點(diǎn)運(yùn)算能力，非常適合在邊緣計(jì)算設(shè)備上部署和運(yùn)行復(fù)雜的AI模型。

還有ASIC、FPGA、CPU等，ASIC是為特定應(yīng)用定制的芯片，對于某些特定的AI任務(wù)，ASIC可以提供極高的性能和能效比。FPGA是一種可編程的芯片，用戶可以根據(jù)需要配置其邏輯功能。CPU雖然不是專門為AI任務(wù)設(shè)計(jì)的，但它們?nèi)匀皇沁吘売?jì)算設(shè)備中的關(guān)鍵組件。現(xiàn)代的CPU通常包含一些用于加速AI任務(wù)的指令集和特性。

具體到某個(gè)AI邊緣計(jì)算盒子，它可能搭載上述的一種或多種芯片。例如，某些盒子可能采用高性能的NPU和GPU的組合，以提供強(qiáng)大的AI計(jì)算能力。

目前市面上眾多AI邊緣計(jì)算盒子采用英偉達(dá)Jetson系列。AI邊緣計(jì)算盒子搭配英偉達(dá)的Jetson系列是一個(gè)強(qiáng)大的組合，能夠?qū)⑸疃葘W(xué)習(xí)和計(jì)算機(jī)視覺的能力直接帶到邊緣設(shè)備，實(shí)現(xiàn)實(shí)時(shí)的數(shù)據(jù)處理和分析。

英偉達(dá)的Jetson系列包括多種模塊和平臺，如Jetson Xavier NX、Jetson Orin NX、Jetson AGX Orin等，它們都具有高性能的GPU和專用的AI加速核心，可以快速處理圖像和視頻數(shù)據(jù)，為邊緣計(jì)算提供強(qiáng)大的算力支持。

如，研智科技基于英偉達(dá)Jetson Xavier NX系統(tǒng)開發(fā)了邊緣智能AI-BOX產(chǎn)品WES-WNX00-3220系列。這款產(chǎn)品適合嵌入式和邊緣系統(tǒng)中的高性能計(jì)算和AI應(yīng)用，是并行運(yùn)行多個(gè)現(xiàn)代神經(jīng)網(wǎng)絡(luò)、同時(shí)處理來自多個(gè)傳感器的高分辨率數(shù)據(jù)的首選平臺。

圖為科技提供基于Jetson AGX Orin的TW-T906智盒，AI算力高達(dá)200TOPS，專為低速自動駕駛而生，可廣泛應(yīng)用于無人配送車、無人環(huán)衛(wèi)車、智能駕駛商務(wù)車、無人清掃船等場景。

華頡科技推出的英偉達(dá)Jetson Orin邊緣計(jì)算AI盒子是基于NVIDIA? Jetson? Orin NX/Orin Nano核心模塊的產(chǎn)品。這款邊緣計(jì)算AI盒子面向工業(yè)應(yīng)用領(lǐng)域，具有優(yōu)異的計(jì)算性能、高效率被動散熱、工業(yè)標(biāo)準(zhǔn)設(shè)計(jì)等特點(diǎn)，可以在邊緣環(huán)境廣泛部署，適用于智慧電力等多個(gè)場景。

研華科技基于英偉達(dá)Jetson系列的AI邊緣計(jì)算盒子，可以為工業(yè)應(yīng)用提供智能化的解決方案。深圳市智仕達(dá)智能技術(shù)有限公司基于英偉達(dá)Jetson系列的邊緣計(jì)算盒子，能有效滿足了智慧交通、AMR、智慧安防、智能制造等多個(gè)領(lǐng)域的智能邊緣端算力升級需求。

國產(chǎn)AI邊緣盒子算力芯片有哪些

目前也有不少廠商采用國產(chǎn)芯片，如圖為邊緣計(jì)算機(jī)T1206，則是基于瑞芯微RK3588處理器芯片設(shè)計(jì)。該產(chǎn)品內(nèi)嵌的NPU支持INT4/INT8/INT16/FP16混合運(yùn)算，完整的外設(shè)接口，具備超長MTBF穩(wěn)定運(yùn)行能力，可應(yīng)用于機(jī)器人、無人配送車、低空防御、智能巡檢、智慧樓宇等自主化機(jī)器，是邊緣端部署AI算力進(jìn)行深度學(xué)習(xí)的理想載體。

定昌電子基于瑞芯微RK3588研發(fā)的邊緣盒子，具備6TOPS AI算力，可用作商顯人臉識別主機(jī)，流媒體服務(wù)器，工控視覺運(yùn)算，人形識別，物體識別，汽體識別，AI監(jiān)控，視頻圖像過濾，智能物流貨品識別等多種AI算法應(yīng)用場景。

該公司還研發(fā)了基于瑞芯微RK3568的邊緣計(jì)算盒子，內(nèi)嵌NPU具有1TOPS算力，可做輕量級AI項(xiàng)目，適用智慧商顯廣告機(jī)，數(shù)據(jù)采集，視頻播放，邊緣AI計(jì)算，智能O2O零售終端機(jī)，工控主機(jī)等行業(yè)領(lǐng)域。

瑞芯微長期深耕AIoT領(lǐng)域，形成了各種算力、各種場景的AIoT SoC系列芯片平臺，并深入布局視覺、音頻、視頻等AI算法，同時(shí)高效支持主流模型架構(gòu)，滿足小模型在邊緣側(cè)、端側(cè)部署的需求，賦能邊緣側(cè)、端側(cè)的各種AIoT智能硬件產(chǎn)品，為百行百業(yè)的智能化升級和數(shù)字化轉(zhuǎn)型提供了強(qiáng)力支持。

其RK3568/RK3588芯片可以用來做邊緣計(jì)算盒子開發(fā)，這兩款芯片NPU算力有所不同，RK3568具備1TOPS算力，RK3588具備6TOPS算力。因此，小型AI計(jì)算或視覺分析等項(xiàng)目，一般采用RK3568方案，中大型AI計(jì)算視覺分析等項(xiàng)目可以采用RK3588方案。

此外，2023年瑞芯微完成了新一代中高端AIoT處理器RK3576的研發(fā)設(shè)計(jì)工作并流片。RK3576 采用先進(jìn)制程設(shè)計(jì)，搭載公司自研的6TOPs算力的最新一代NPU，支持Transformer 模型架構(gòu)相關(guān)算子，人工智能計(jì)算效率顯著提升，可以支持各類 AI 算法高效運(yùn)行。

據(jù)稱，百度最新發(fā)布的磐玉AI邊緣計(jì)算盒產(chǎn)品-磐玉-AIBOX-L01，就基于瑞芯微這款新的RK3576芯片打造。磐玉AI邊緣計(jì)算盒內(nèi)置80余種跨行業(yè)真實(shí)場景的算法適配，能夠有效滿足客戶的本地模型計(jì)算需求。

也有廠商采用寒武紀(jì)的AI芯片，風(fēng)潮互動官網(wǎng)有一款其合作品牌的C16邊緣計(jì)算盒，搭載的就是寒武紀(jì)純國產(chǎn)AI推理加速芯片MLU220，INT8等效算力高達(dá)16Tops。該產(chǎn)品具有超強(qiáng)計(jì)算性能、大容量存儲、配置靈活、體積小、支持溫度范圍寬、環(huán)境適應(yīng)性強(qiáng)、易于維護(hù)管理等特點(diǎn)。集成風(fēng)潮互動自主研發(fā)的N-PIPE+UNN視覺推導(dǎo)平臺，支持市面上常見視覺AI模型。該產(chǎn)品支持各類邊緣、智慧園區(qū)/安防/商業(yè)/交通等多領(lǐng)域多場景靈活部署。

華頡科技有一款邊緣計(jì)算盒子HE10C，也采用了寒武紀(jì)的MLU220芯片，不過同時(shí)它也采用了瑞芯微RK3568芯片。整機(jī)擁有32 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度學(xué)習(xí)框架，該設(shè)備面向工業(yè)應(yīng)用領(lǐng)域，具有優(yōu)異計(jì)算性能、高效率被動散熱、工業(yè)標(biāo)準(zhǔn)設(shè)計(jì)等特點(diǎn)，可以在邊緣環(huán)境廣泛部署，適用于智慧電力、智慧工廠、智慧園區(qū)、智慧安防、智慧工地等場景。

MLU220是寒武紀(jì)2019年推出的邊緣AI系列產(chǎn)品，這也是寒武紀(jì)首款面向邊緣智能計(jì)算領(lǐng)域的AI芯片。思元220芯片是一款專門用于深度學(xué)習(xí)的SOC邊緣加速芯片，采用TSMC 16nm工藝，它具有高算力，低功耗和豐富的I/O接口。它采用了寒武紀(jì)在處理器架構(gòu)領(lǐng)域的一系列創(chuàng)新性技術(shù)，其架構(gòu)為寒武紀(jì)最新一代智能處理器MLUv02，實(shí)現(xiàn)最大32TOPS（INT4）算力，而功耗僅10瓦。

此外，還有一些邊緣計(jì)算盒子采用算能的芯片，如華頡科技，其之前基于算能BM1684高性能芯片開發(fā)邊緣計(jì)算AI BOX，整機(jī)擁有17.6 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度學(xué)習(xí)框架，面向工業(yè)應(yīng)用領(lǐng)域，具有優(yōu)異計(jì)算性能、高效率被動散熱、工業(yè)標(biāo)準(zhǔn)設(shè)計(jì)等特點(diǎn)，可以在邊緣環(huán)境廣泛部署，適用于智慧電力、智慧工廠、智慧園區(qū)、智慧安防、智慧工地等場景。

此外，還有英碼科技，該公司基于算能第四代AI處理器BM1684X開發(fā)的邊緣計(jì)算盒子—IVP03X智能工作站，具有高算力、編解碼能力強(qiáng)、超低功耗等特點(diǎn)。相較上一代BM1684系列的邊緣計(jì)算盒子，整機(jī)性能有很大的提升。英碼IVP03X智能工作站可廣泛應(yīng)用于智慧城市、智慧安防、智慧社區(qū)以及智慧交通等領(lǐng)域的AI智能視頻分析和輕量級的模型訓(xùn)練。

寫在最后

就如人工智能的實(shí)現(xiàn)離不開算力、算法，AI邊緣計(jì)算盒子也是算力和算法的集合體。在算力層面，AI邊緣計(jì)算盒子離不開AI算力芯片的支持，如上述提到的英偉達(dá)的Jetson系列，瑞芯微的RK3568/RK3588芯片，寒武紀(jì)的MLU220，以及算能的BM1684/BM1684X等。當(dāng)然除了這些企業(yè)之外，還有不少企業(yè)都能夠提供這樣的芯片支持，包括云天勵(lì)飛、鯤云科技等。