也許公司在實施邊緣人工智能時面臨的最大問題是大多數(shù)公司沒有內(nèi)部資源來開發(fā)這些復(fù)雜的快速變化的技術(shù)。缺乏訓(xùn)練有素的人員和對設(shè)計流程的不熟悉通常會導(dǎo)致時間延遲和培訓(xùn)團隊成員的額外費用。另外，選擇太多，工程師不可能每個選項都去探索。而且由于每個應(yīng)用程序都不同，因此可能不適合根據(jù)過去的實現(xiàn)來復(fù)制解決方案。但是，通過提出幾個關(guān)鍵問題并找到合適的合作伙伴將您的項目從構(gòu)思轉(zhuǎn)變?yōu)?a target="_blank">芯片，任何企業(yè)都可以制定路線圖，在其設(shè)備中成功部署邊緣 AI。

定義用例和可行性

在探索實現(xiàn)選項之前定義用例很重要。任何企業(yè)都應(yīng)該問的第一個問題是：客戶會發(fā)現(xiàn)什么是真正有用的？在確定客戶想要的功能后，您的團隊需要設(shè)定開發(fā)和生產(chǎn)成本目標以及可接受的上市時間。

現(xiàn)在是具有挑戰(zhàn)性的部分——做出與技術(shù)相關(guān)的決策。是否有可能在您正在處理的成本、時間、功率和空間權(quán)衡內(nèi)實現(xiàn)該功能？在此階段，與經(jīng)驗豐富的合作伙伴/顧問合作或借鑒內(nèi)部經(jīng)驗至關(guān)重要。你不會有完美的數(shù)據(jù)來做你的決定，所以實際經(jīng)驗對于做出這些判斷是必不可少的。

技術(shù)選擇

團隊可以做出多種選擇來在產(chǎn)品中實現(xiàn)客戶所需的功能。根據(jù)您的可用資源和開發(fā)時間，團隊可能會考慮以下一些選擇：

• 僅在現(xiàn)有嵌入式處理器上的軟件——這可能需要非常仔細地編碼模型才能實現(xiàn)所需的性能。功能可能會受到限制，但如果可行，它通常是成本最低的解決方案。因為這是一個純軟件解決方案，升級或錯誤修復(fù)更容易解決。
• 升級/更換現(xiàn)有的處理器——如果你能讓它工作并保留現(xiàn)有的代碼庫，這可能是一個很好的解決方案，并且像上面的解決方案一樣，它是純軟件的，可以很容易地修復(fù)或升級。但是，這通常會使項目開始走上一條需要進行大量功率和性能評估的艱難道路。公司最好添加神經(jīng)網(wǎng)絡(luò) (NN) 或類似的加速器。
• 添加一個固定的神經(jīng)網(wǎng)絡(luò)加速器——如果與應(yīng)用程序的需求有很好的匹配，這是一個最佳選擇，因為評估和設(shè)計可能不會太困難。它可以以非常合理的成本很好地提供出色的功率/性能折衷。
• FPGA – 該解決方案靈活且可升級，但最終產(chǎn)品通常成本高且功率大。這很少是“邊緣”產(chǎn)品的好選擇。
• 專用 SoC——這通常是明確定義用例的大容量、低成本和低功耗產(chǎn)品的最佳選擇。

如何評估正確的選擇

如果沒有邊緣 AI 芯片領(lǐng)域訓(xùn)練有素的專業(yè)人員的專業(yè)知識，可能很難評估正確的選擇。每個選項的評估通常需要很長時間并且需要廣泛的知識。例如，評估固定加速器與 FPGA 實現(xiàn)可能需要具有不同技能的工程師。由于有如此多的供應(yīng)商和解決方案提出相互矛盾的主張，對于大多數(shù)企業(yè)來說，做出基本決策可能會讓人不知所措。

可以采取的最重要的步驟之一是找到可以幫助評估技術(shù)權(quán)衡的合適合作伙伴，并將公司從最初的研究和評估階段帶到解決方案的設(shè)計和實施。此外，不要沉迷于尋找具有“最佳”功率/性能的解決方案。如果您能找到可行的解決方案并擁有足夠的軟件和技術(shù)支持，那么這可能是您的最佳選擇。不要被抓到追逐規(guī)格。

構(gòu)建解決方案

一旦選擇了功能和技術(shù)，下一步就是實施。通常重點是神經(jīng)網(wǎng)絡(luò)模型的實現(xiàn)，但企業(yè)還必須處理邏輯（軟件/硬件）的實現(xiàn)，以處理從傳感器到最終輸出的管道，每一步都需要獨特的算法。

可能出現(xiàn)的問題包括：

• 在將數(shù)據(jù)傳遞到 NN 加速器之前，我需要什么樣的信號調(diào)理/過濾？
• 我應(yīng)該使用哪種 NN 模型？我的技術(shù)選擇是否有現(xiàn)有模型？哪個模型的哪個版本最適合我的應(yīng)用程序？
• 如何訓(xùn)練我的模型？我從哪里獲得我的數(shù)據(jù)以及這些數(shù)據(jù)中存在哪些偏差？我需要多大的數(shù)據(jù)量？
• 訓(xùn)練模型的處理能力的成本和可用性是多少？我們是在云端還是在本地服務(wù)器上訓(xùn)練？
• 什么水平的準確度是足夠的？假陽性還是假陰性更好？
• 需要哪些后期處理，我可以處理該工作量嗎？

最后的忠告

由于有如此多的供應(yīng)商提出相互矛盾的說法，因此對于希望實施邊緣 AI 的企業(yè)來說，重要的是不要專注于尋找“最佳 TOPS”或“最快”的解決方案，因為這些都是難以捉摸的目標。回答許多有關(guān)功能、技術(shù)選擇和實施的問題的最佳方式是與“已經(jīng)在那里，做到了”的個人或組織合作。具有快速評估潛在用例、技術(shù)解決方案和供應(yīng)商產(chǎn)品的經(jīng)驗的人，可幫助您盡可能快速準確地縮小選擇范圍。專注于擁有最完整解決方案的供應(yīng)商，既有要實現(xiàn)的引擎，也有模型、算法，甚至現(xiàn)有數(shù)據(jù)，以幫助您處理獨特的用例并創(chuàng)建可靠的概念證明。