當(dāng)前我們討論人工智能（AI）大部分都是講的云端智能，在云端針對(duì)數(shù)據(jù)做訓(xùn)練、加速，數(shù)據(jù)處理和決策也是在云端進(jìn)行。隨著人們對(duì)于身邊事物的智能化要求越來越高，尤其是物聯(lián)網(wǎng)產(chǎn)業(yè)進(jìn)入規(guī)模化落地的初期，更多的數(shù)據(jù)和決策需要在邊緣側(cè)進(jìn)行，也就是我們常說的解決人工智能“最后一公里”的問題。

邊緣智能處理的優(yōu)勢在于減少延遲，全網(wǎng)絡(luò)覆蓋，增加了隱私和安全性，并減少了與云端的通信，從而降低了成本。芯片的Ensigma系列IP產(chǎn)品，以及用于人工智能芯片的神經(jīng)網(wǎng)絡(luò)加速器（NNA）IP產(chǎn)品。

Imagination Technologies是全球半導(dǎo)體知識(shí)產(chǎn)權(quán)（IP）提供商，其核心產(chǎn)品包括用于各種數(shù)字消費(fèi)性電子產(chǎn)品和系統(tǒng)所用芯片的PowerVR圖形處理器（GPU）IP產(chǎn)品、用于物聯(lián)網(wǎng)連接在GTIC 2019全球AI芯片創(chuàng)新峰會(huì)上，Imagination Technologies視覺及AI部門高級(jí)總監(jiān) Andrew Grant指出，采用神經(jīng)網(wǎng)絡(luò)加速能夠賦能邊緣智能部署。

Imagination Technologies視覺及AI部門高級(jí)總監(jiān)

Andrew Grant

神經(jīng)網(wǎng)絡(luò)加速+GPU能夠提供強(qiáng)有力的算力

隨著人工智能和物聯(lián)網(wǎng)進(jìn)程的不斷深入，各種各樣的智能應(yīng)用對(duì)于算力的要求越來越高。當(dāng)算法完善，數(shù)據(jù)已經(jīng)就位的時(shí)候，算力已經(jīng)成為越來越多人工智能實(shí)現(xiàn)的痛點(diǎn)。尤其是物聯(lián)網(wǎng)時(shí)代的邊緣計(jì)算，很多數(shù)據(jù)需要在邊緣側(cè)得到及時(shí)的處理，并作出決策，對(duì)算力提出了更高的要求。Andrew以汽車的自動(dòng)駕駛為例，每一臺(tái)自動(dòng)駕駛汽車都需要處理攝像頭和雷達(dá)等接收到的信息，需要區(qū)別車輛、行人（尤其是兒童）、障礙物等，同時(shí)需要處理V2X的信息，再加上和云端的互聯(lián)互通，汽車實(shí)現(xiàn)自動(dòng)駕駛需要驚人的算力支持。

Andrew更具體地說，ADAS系統(tǒng)如果要達(dá)到實(shí)現(xiàn)行人預(yù)測的能力需要有超過100GFLOPS的算力，實(shí)現(xiàn)level 3級(jí)別的自動(dòng)駕駛需要10TOPS的算力，要實(shí)現(xiàn)level 5級(jí)別的自動(dòng)駕駛則需要500+TOPS的算力支撐。

因此，在自動(dòng)駕駛汽車這個(gè)需要邊緣智能的代表性產(chǎn)品中，在走向level 5級(jí)別自動(dòng)駕駛的過程中，每一步所需要的算力都很大。可以說，足夠的算力是實(shí)現(xiàn)邊緣智能的必要條件。

通過多年的投資研發(fā)，Imagination Technologies在產(chǎn)品性能方面取得了突破性的進(jìn)展。2017年9月21日，Imagination Technologies發(fā)布了采用專用PowerVR架構(gòu)來打造的PowerVR Series2NX神經(jīng)網(wǎng)絡(luò)加速器（NNA）IP，此款I(lǐng)P產(chǎn)品可以用在各種人工智能芯片設(shè)計(jì)之中，并在面積效率、運(yùn)算性能以及功耗等方面相較于友商產(chǎn)品都有絕對(duì)的優(yōu)勢。

在成功推出PowerVR 2NX NNA IP產(chǎn)品之后，Imagination Technologies在人工智能領(lǐng)域并未停止了腳步。2018年12月，Imagination Technologies在英國和中國同時(shí)再次宣布推出其面向更先進(jìn)人工智能應(yīng)用的最新神經(jīng)網(wǎng)絡(luò)加速器（NNA）架構(gòu)PowerVR Series3NX。PowerVR Series3NX是Imagination Technologies專門用于神經(jīng)網(wǎng)絡(luò)計(jì)算而設(shè)計(jì)的硬件加速器。

單個(gè)Series3NX內(nèi)核的性能可從0.6到10萬億次操作/秒（TOPS），同時(shí)其多核實(shí)現(xiàn)可擴(kuò)展到160TOPS以上。得益于包括無損權(quán)重壓縮等架構(gòu)性增強(qiáng)，Series3NX架構(gòu)的性能可在相同的芯片面積上較上一代產(chǎn)品提升40%，使SoC制造商可在性能效率方面提高近60%，且?guī)捫枨蠼档土?5%。

作為Series3NX架構(gòu)的一部分，Imagination Technologies還發(fā)布了PowerVR Series3NX-F（Flexible）半導(dǎo)體知識(shí)產(chǎn)權(quán)（IP）配置，以提供前所未有的功能性和靈活性平衡，同時(shí)還結(jié)合了行業(yè)領(lǐng)先的性能。采用Series3NX-F的客戶可以通過OpenCL框架來實(shí)現(xiàn)差異化并為其產(chǎn)品增加價(jià)值。

在軟件方面，PowerVR工具是成熟并已經(jīng)商用了的，且有專門的團(tuán)隊(duì)維護(hù)，平均每季度更新一次，從而能夠最優(yōu)化地去映射新興的網(wǎng)絡(luò)模型、提供靈活性和性能優(yōu)化的理想組合。通過使用Imagination Technologies的專用深度神經(jīng)網(wǎng)絡(luò)（DNN）API，開發(fā)人員可以輕松地針對(duì)Series3NX架構(gòu)編寫人工智能應(yīng)用程序，或者擴(kuò)展實(shí)現(xiàn)部分自定義的算法和網(wǎng)絡(luò)。

Andrew在介紹中提到，PowerVR Series3NX能夠提供5個(gè)獨(dú)立的處理核心，能夠更好地保護(hù)數(shù)據(jù)，擁有更好的處理和更好的速度。他強(qiáng)調(diào)，PowerVR Series3NX在信息處理、算法兼容和信息安全保護(hù)方面，都具有獨(dú)特的優(yōu)勢。

神經(jīng)網(wǎng)絡(luò)加速+GPU有足夠的靈活性

未來的時(shí)代，是人工智能賦能一切的時(shí)代，包括物聯(lián)網(wǎng)，也就是我們所說的AIoT。物聯(lián)網(wǎng)碎片化的產(chǎn)品特性意味著對(duì)于數(shù)據(jù)加速處理需要更靈活。從當(dāng)前的局勢來看，鮮有產(chǎn)品能比GPU在數(shù)據(jù)加速和深度學(xué)習(xí)訓(xùn)練方面靈活性更高，且同時(shí)提供很高的算力。

Andrew表示，GPU+神經(jīng)網(wǎng)絡(luò)加速是賦能邊緣智能最好的解決方案。

他指出，GPU是完全靈活的，能夠提供用于Compute、Float和INT支持的標(biāo)準(zhǔn)化API；而神經(jīng)網(wǎng)絡(luò)加速應(yīng)對(duì)不同的行業(yè)擁有很好的靈活性，同時(shí)能夠?qū)崿F(xiàn)更低功耗。

Andrew補(bǔ)充說，神經(jīng)網(wǎng)絡(luò)具有高的帶寬和計(jì)算，需要專用架構(gòu)解決這兩個(gè)問題。成本效率是現(xiàn)代SoC設(shè)計(jì)中的一個(gè)重要因素，PowerVR NNA能夠在每mm2提供最佳性能。

在Series3NX上，Imagination Technologies擁有豐富的解決方案，可以應(yīng)用于安防、運(yùn)動(dòng)攝像頭、智能手機(jī)、汽車、AR/VR、無人機(jī)等眾多領(lǐng)域。

2017年，中國的私人資本Canyon Bridge出手5.5億英鎊（約49億元人民幣）收購了Imagination Technologies，這家GPU開放商目前是中資背景。而中國是人工智能和物聯(lián)網(wǎng)共同的熱土，對(duì)于邊緣智能實(shí)現(xiàn)的需求也更為迫切，相信Imagination Technologies能夠憑借強(qiáng)大的產(chǎn)品陣容借助這波熱潮，取得不錯(cuò)的市場成績。