Telemetry 介紹

Telemetry（遙測）是指Intel Developer Cloud幫助開發(fā)者收集應(yīng)用程序執(zhí)行時(shí)開發(fā)者指定的信息，并通過UI 的形式展現(xiàn)的功能，該功能可以被啟動(dòng)或關(guān)閉。

Intel Developer Cloud提供的遙測指標(biāo)，包括有關(guān)計(jì)算設(shè)備運(yùn)行狀態(tài)和應(yīng)用運(yùn)行數(shù)據(jù)。在Intel Developer Cloud的部分實(shí)例調(diào)用了Telemetry Dashboard模塊，我們可以通過運(yùn)行這塊單元格來查看邊緣節(jié)點(diǎn)上運(yùn)行應(yīng)用過程中實(shí)際數(shù)據(jù)，這些數(shù)據(jù)對(duì)于想要為其應(yīng)用程序做出數(shù)據(jù)驅(qū)動(dòng)決策以確定適合其解決方案的最佳硬件的用戶來說是很有參考價(jià)值的。

Telemetry 涉及的內(nèi)容比較多，我們本僅從Telemetry概念，功能做介紹，對(duì)于如何把Telemetry 功能集成到自己的應(yīng)用中去，我們后面會(huì)再做分析。

Telemetry 流程

Intel Developer Cloud示例的整體工作流程如下：

| 工作流程圖

1．注冊Intel Developer Cloud

2．啟動(dòng)并打開 Jupyter Notebook

3．使用指定的目標(biāo)硬件開發(fā)模型并將作業(yè)發(fā)送到作業(yè)隊(duì)列

4. 應(yīng)用運(yùn)行時(shí)調(diào)用Telemetry 接口記錄數(shù)據(jù)

5．指標(biāo)/結(jié)果由 Jupyter Notebook 訪問

6．通過 Grafana 儀表板生成遙測數(shù)據(jù)

Telemetry 數(shù)據(jù)包含在給定作業(yè)運(yùn)行期間的應(yīng)用程序詳細(xì)信息——即：平均推理時(shí)間 （MS）、推理計(jì)數(shù)、目標(biāo)硬件。它還包括以下指標(biāo)：每秒幀數(shù)、推理時(shí)間、推理期間的 CPU/GPU 使用率、平均 CPU/GPU 溫度以及推理期間的內(nèi)存使用率。

裸機(jī)實(shí)例演示

＞Step1. 進(jìn)入Jupyter Lab環(huán)境

登錄Intel Developer Cloud主頁后，選擇“Bare Metal Deployment”的 “Get Started”，進(jìn)入Jupyter Notebook開發(fā)環(huán)境。

| 點(diǎn)擊進(jìn)入Jupyter Notebook

＞Step2. 運(yùn)行參考實(shí)例

這次我們并不去細(xì)究Telemetry調(diào)用，所以選擇已經(jīng)集成了Telemetry 的預(yù)置實(shí)例——物體檢測。我在多個(gè)介紹文章里選擇把這個(gè)預(yù)置實(shí)例拎出來，主要是因?yàn)樗δ芊浅｝R全，很適合做演示。當(dāng)然平臺(tái)還有很多預(yù)置程序，可以自行去探索，大可不必局限于這個(gè)實(shí)例。

進(jìn)入Jupyter Notebook開發(fā)環(huán)境后，依次點(diǎn)擊文件夾~/Reference-samples/iot-devcloud/openvino-dev-latest/developer-samples/python/，然后找到object-detection-python應(yīng)用，打開object_detection_demo.ipynb文件：

依次運(yùn)行notebook上模塊（Cell），需要注意的是要等在邊緣節(jié)點(diǎn)上的應(yīng)用運(yùn)行完畢后，再去點(diǎn)擊notebook最后Telemetry Dashboard模塊，會(huì)生成進(jìn)入Telemetry數(shù)據(jù)頁面的鏈接地址，點(diǎn)擊即可進(jìn)入數(shù)據(jù)頁面，觀察邊緣設(shè)備運(yùn)行對(duì)象檢測應(yīng)用的數(shù)據(jù)指標(biāo)。注意：數(shù)據(jù)收集發(fā)生在應(yīng)用過程，并隨應(yīng)用終止而結(jié)束，需等收集結(jié)束后才可查看數(shù)據(jù)。

| Submit jobs

| Telemetry Dashboard

| 觀察數(shù)據(jù)

總 結(jié)

Telemetry雖然功能簡單，卻是十分關(guān)鍵。獲取AI應(yīng)用執(zhí)行過程中設(shè)備的狀態(tài)，通過數(shù)據(jù)分析，找到一個(gè)更合理的硬件搭配，發(fā)現(xiàn)我們設(shè)備資源瓶頸，才能更好地優(yōu)化我們的方案。

上面只是演示了裸機(jī)部署實(shí)例，在DevCloud 容器化環(huán)境下也是支持Telemetry功能的，原理一樣，這里不再贅述，您可以自行去探索一下。

審核編輯 ：李倩