作者 / Android 機器學習平臺團隊
相較于服務器端機器學習 (ML),設備端機器學習有其獨特的優勢,如支持離線使用、延遲更低、隱私性更高和推理成本更低,因此 Android 中設備端機器學習的使用迅速增長。
在構建基于設備端 ML 的功能時,Android 開發者通常有兩種選擇: 要么使用生產就緒型 SDK (包含經過預訓練和優化的 ML 模型),例如機器學習套件;要么在需要加強控制時,設置專屬的自定義 ML 模型和功能。
Android 自定義 ML 堆棧是一組用于在 Android 上部署自定義 ML 功能的基本 API 及服務,我們將為您介紹一些關于該堆棧的更新。
Google Play 服務中的 TensorFlow Lite 現已成為 Android 的官方 ML 推理引擎
在 2021 年 GoogleI/O 大會上,我們首次宣布在 Google Play 服務中推出早期預覽版的 TensorFlow Lite,作為獨立 TensorFlow Lite 的替代方案。從發布至今不斷發展,現在每個月通過數萬個應用為數十億用戶提供服務。近期,我們在 Google Play 服務中發布了 TensorFlow Lite 的穩定版本,并且將其打造為 Android 的官方 ML 推理引擎。
在 Google Play 服務中使用 TensorFlow Lite 不僅可讓您縮減二進制文件大小,還能通過自動更新獲得性能提升,來確保您從 Android 自定義 ML 堆棧中輕松集成新 API 和服務,因為這些 API 和服務將在我們的官方推理引擎上進行構建。
如果您目前計劃將 TensorFlow Lite 綁定到應用中,請查看文檔進行遷移:
https://www.tensorflow.org/lite/android/play_services
TensorFlow Lite 委托現在可通過 Google Play 服務分發
我們在幾年前發布的 GPU 委托和 NNAPI 委托,可以讓您充分利用 GPU、DSP 或 NPU 等專用硬件的處理能力。現在,GPU 和 NNAPI 委托都可以通過 Google Play 服務分發。
我們也深知部分開發者希望在高級用例中直接使用自定義委托,因此正積極與硬件合作伙伴協作,致力于通過 Google Play 服務來擴大對其自定義委托的訪問。
借助 Acceleration Service 選擇最合適的 TensorFlow Lite 委托,在運行時實現最佳性能
在 Android 中,由于硬件差異,為每位用戶確定最佳委托頗為復雜。為幫助您應對這一挑戰,我們正在構建新的 API,以便您在運行時為 TensorFlow Lite 模型安全地優化硬件加速配置。
我們計劃在明年年初公開發布 Acceleration Service,現階段用戶可通過申請獲取早期預覽版:
https://developer.android.google.cn/ml/early-access
持續打造 Android 自定義 ML 堆棧
我們致力于為 Android 的高性能自定義設備端 ML 提供必備資源。
概括而言,Android 的自定義 ML 堆棧目前包括以下內容:
-
Google Play 服務中用于高性能設備端推理的 TensorFlow Lite
-
用于獲取硬件加速的 TensorFlow Lite 委托
我們將于不久后發布 Acceleration Service,幫助您在運行時選擇最佳委托。
如需閱讀并了解關于 Android 自定義機器學習堆棧的最新資訊,您可以訪問官方網站:
https://developer.android.google.cn/ml歡迎您持續關注我們,及時了解更多開發技術和產品更新等資訊動態。
![e0241318-8123-11ed-8abf-dac502259ad0.gif](https://file1.elecfans.com//web2/M00/9F/28/wKgaomToFiKAAhoVAAAafJIrrMk875.gif)
原文標題:最新進展 | Android 自定義機器學習堆棧
文章出處:【微信公眾號:谷歌開發者】歡迎添加關注!文章轉載請注明出處。
-
谷歌
+關注
關注
27文章
6177瀏覽量
105686
原文標題:最新進展 | Android 自定義機器學習堆棧
文章出處:【微信號:Google_Developers,微信公眾號:谷歌開發者】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
Qorvo在手機RF和Wi-Fi 7技術上的最新進展及市場策略
think-cell:自定義think-cell(四)
![think-cell:<b class='flag-5'>自定義</b>think-cell(四)](https://file1.elecfans.com/web3/M00/05/B8/wKgZPGeEfMmANJETAAAVy8_tFjA502.jpg)
think-cell;自定義think-cell(一)
![think-cell;<b class='flag-5'>自定義</b>think-cell(一)](https://file1.elecfans.com/web3/M00/05/35/wKgZPGd98hCANIyfAAA-8kRrUjY536.png)
FF將發布FX品牌最新進展
揭秘超以太網聯盟(UEC)1.0 規范最新進展(2024Q4)
![揭秘超以太網聯盟(UEC)1.0 規范<b class='flag-5'>最新進展</b>(2024Q4)](https://file1.elecfans.com/web1/M00/F5/51/wKgZoWc6_9iAR8mrAAXA5f5chSc558.jpg)
Qorvo在射頻和電源管理領域的最新進展
芯片和封裝級互連技術的最新進展
TSMaster 自定義 LIN 調度表編程指導
![TSMaster <b class='flag-5'>自定義</b> LIN 調度表編程指導](https://file.elecfans.com/web2/M00/40/07/pYYBAGJrUk2AaMaTAAAQONQtdzo461.jpg)
百度首席技術官王海峰解讀文心大模型的關鍵技術和最新進展
![百度首席技術官王海峰解讀文心大模型的關鍵技術和<b class='flag-5'>最新進展</b>](https://file1.elecfans.com/web2/M00/CD/1C/wKgaomYgddKAG-uTAAAOKd5w0Gw262.jpg)
評論