全名為 NVIDIA GPU Cloud 的 NGC 中心，是近年來 NVIDIA 用來統(tǒng)籌應(yīng)用資源的云中心，本身并不具備任何計算功能，主要就是“應(yīng)用資源分類整理”用途，將 NVIDIA 絕大部分與 GPU 開發(fā)相關(guān)的工具包、開發(fā)包、機器學(xué)習(xí)預(yù)訓(xùn)練模型等等，全部集中在這上面，方便開發(fā)人員集中使用與下載開發(fā)資源。

登錄 http://ngc.nvidia.com 就能進入 NGC 中心，不過這個入口的更新頻率很高，首頁所看到的內(nèi)容可能跳轉(zhuǎn)至其他地方。網(wǎng)頁最左邊的 “Explore Catalog” 與右上角的“用戶名(未登錄之前為 Guest)”，大致是固定的。

目前 NGC 將所有資源區(qū)分為以下五大類：

Collections(集合)：

這里存放著“以應(yīng)用為單位”的綜合信息內(nèi)容，因為每個應(yīng)用都需要用到一個以上的容器、預(yù)訓(xùn)練模型、Helm 管理模塊或資源，在 NGC 里存放數(shù)百個這些元件，如果讓開發(fā)者自行搜索的話，的確是一件相當(dāng)費勁的工作。

NVIDIA 將個別應(yīng)用所需要的相關(guān)信息，先整理好并存放在這個分類里，讓使用者可以非常輕松地掌握每個應(yīng)用所需要的資源列表，目前已經(jīng)整理好 50+個應(yīng)用，包括 TAO 對話 AI、ASR 自動語音識別、NLP 自然語言處理等等，還在陸續(xù)增加當(dāng)中。

下面截屏是在 “Query” 欄輸入 “tao” 后，會出現(xiàn) 10 個已經(jīng)整理好的應(yīng)用：

當(dāng)點擊 “TAO Toolkit-Conversational AI” 之后，就會進入下面 “Overview” 截圖的內(nèi)容，顯示在 NGC 中心里，目前有 1 個容器、10 個預(yù)訓(xùn)練模型與 8 項資源與這個應(yīng)用是有關(guān)的，當(dāng)然這些數(shù)字未來是有可能改變的。

點擊 “Entities” 就能看到如下圖，列出每個元件的名稱以及進入該元件說明的鏈接：

這樣就能很輕松地掌握每個應(yīng)用完整的資源信息。

Containers(容器)：

Docker 是非常好的用于封裝應(yīng)用軟件的容器技術(shù)，封裝的鏡像能提供完全獨立的執(zhí)行環(huán)境，這樣能有效地解決多種應(yīng)用的同時運作。

由于 NVIDIA 的各種開發(fā)套件之間，仍有可能存在 CUDA/cuDNN/TensorRT 這些底層庫的版本兼容問題，另外包括 Python 各種數(shù)學(xué)庫之間的版本依賴，經(jīng)常造成軟件安裝的困難度。

NVIDIA 將大部分開發(fā)套件與工具包，以不同應(yīng)用場景或功能組合的形式，用 Docker 技術(shù)進行封裝，例如 TAO 開發(fā)工具就有 for Conv AI、for CV 與 for Lanuage Model 三種鏡像，而 DeepStream 有 6 種以上的鏡像。

使用鏡像技術(shù)，開發(fā)者只需要在工作平臺上安裝最基礎(chǔ)的 GPU 驅(qū)動、docker 管理器與 nv-docker 解析器，就能非常輕松地使用這些應(yīng)用。目前 NGC 上已經(jīng)有將近 200 個容器鏡像，可以免費使用。

Helm Charts

這是一組針對 Kubernetes 集群的管理與運維的工具，配合 docker 技術(shù)執(zhí)行應(yīng)用軟件的部署與管理，與 GPU 計算沒有直接關(guān)聯(lián)，通常使用在數(shù)據(jù)中心、云平臺上，對各種部署的 GPU 應(yīng)用進行管理與監(jiān)控，其中 NVIDIA Network Operator Helm Chart 是最重要的基礎(chǔ)元件，對這方面有需求的讀者可以從這個元件開始上手。

Models(模型)：

這里提供 300+個預(yù)訓(xùn)練好的人工智能模型，包括圖像分類、對象檢測、語言翻譯、文本到語音、推薦引擎、情感分析等等，主要配合遷移學(xué)習(xí)(transfer learning) 的用途，或者直接拿來作為體驗演示用途。

這里的所有模型都是經(jīng)由最專業(yè)的技術(shù)人員，根據(jù)不同數(shù)據(jù)精度在 NVIDIA 最高端設(shè)備進行訓(xùn)練，在精確度與性能上都經(jīng)過優(yōu)化處理，包括 NVIDIA Tensor Core GPU，這樣的預(yù)訓(xùn)練模型能為開發(fā)人員節(jié)省非常大量的模型訓(xùn)練時間。

Resources

這里存放的內(nèi)容，就是為創(chuàng)建深度學(xué)習(xí)模型的分步說明和腳本，例如用于 Jupyter環(huán)境的 .ipynb 腳本，還有一些使用相關(guān)的指導(dǎo)文件或范例代碼。

以上簡單介紹了 NGC 的內(nèi)容，NVIDIA 為開發(fā)人員提供非常豐富與優(yōu)異的資源，若能好好善用 NGC 的功能，就能在人工智能的應(yīng)用開發(fā)上得到事半功倍的效果。

要使用這些資源的第一件事情，就是要申請 NGC 賬號，這個賬號與 NVIDIA 開發(fā)者申請的賬號是互相獨立的，因此需要單獨申請。本文最后就是帶著大家去申請一個賬號，并且申請一組密鑰，這樣就能輕松使用 NGC 的內(nèi)容。

1. 創(chuàng)建NGC賬號：

(1)登錄 https://ngc.nvidia.com 會直接出現(xiàn) CATALOG 畫面。

(2)請點擊下圖右上角 “Welcome Guest”，然后點選下方 “Sing in/Sing Up”。

(3)進入后點選 “NVIDIA Account” 旁邊的 “Continue”，就會進入下圖右的“登陸”或“創(chuàng)建一個賬戶”的畫面。

(4)剩下的步驟與一般申請賬號的過程是一樣的，使用一個正規(guī)的郵箱進行申請，不過 NGC 為了便利國內(nèi)用戶，也允許使用 QQ 或微信賬號登錄。在下面截屏下方點擊 “Show more”，就會出現(xiàn) “Login with QQ” 與 “Login with WeChat” 選項，點入之后掃描二維碼就能進行賬號創(chuàng)建。

后面仍需要完成進一步的賬號確認(rèn)工作，回復(fù) NGC 所發(fā)送的確認(rèn)郵件，才能完成完成整個賬號創(chuàng)建工作。

2. 獲取NGC密鑰：

(1)登陸 NGC 之后，會看到右上角出現(xiàn)您的登錄名，以及一組哈希數(shù)列。點選用戶名所出現(xiàn)的下拉菜單中，選擇 “setup” 選項。

(2)進入 Setup 選項后會出現(xiàn)下面兩個設(shè)定，點擊左邊的 “Get API Key”：

(3)點擊下圖右上角 “Generate API KEY” 會跳出“確認(rèn)”，點擊 “confirm” 即可

(4)在最下面會出現(xiàn)一組長度 85 的字符串：

由于密鑰只有在創(chuàng)建時候能看到內(nèi)容，日后無法在 NGC 獨立查詢，請自行復(fù)制做好記錄。這組密鑰在整個訓(xùn)練過程以及最后推理時都需要用到，非常關(guān)鍵，如果遺忘的話就得重新再創(chuàng)建一組，而前面所訓(xùn)練的模型，可能就得重新再做一次。

本文只是將 NGC 的內(nèi)容做個簡單的介紹，以及講解創(chuàng)建賬號、生成密鑰的過程，更多關(guān)于 NGC 的詳細(xì)使用說明。

原文標(biāo)題：NVIDIA Jetson Nano 2GB 系列文章(54)：NGC的內(nèi)容簡介與注冊密鑰

文章出處：【微信公眾號：NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅