2022 年 GTC ，NVIDIA 宣布Jetson Orin Nano 系列系統(tǒng)模塊（ SoM ）。它們的 AI 性能是 NVIDIA Jetson Nano 的 80 倍，為入門(mén)級(jí)邊緣 AI 和機(jī)器人應(yīng)用設(shè)定了新標(biāo)準(zhǔn)。

Jetson 系列現(xiàn)在首次包括基于 NVIDIA Orin 的模塊，從入門(mén)級(jí)的 Jetson Orin Nano 到最高性能的 Jetson AGX Orin 。這使客戶(hù)能夠靈活地輕松擴(kuò)展其應(yīng)用程序。

借助 Jetson AGX Orin Developer Kit 提供的完整軟件仿真支持，立即啟動(dòng)您的 Jetson Orin Nano 開(kāi)發(fā)。

跨行業(yè)的日常用例對(duì)增強(qiáng)實(shí)時(shí)處理能力的需求繼續(xù)增長(zhǎng)。入門(mén)級(jí) AI 應(yīng)用程序，如智能相機(jī)、手持設(shè)備、服務(wù)機(jī)器人、智能無(wú)人機(jī)、智能儀表等，都面臨著類(lèi)似的挑戰(zhàn)。

這些應(yīng)用程序需要在設(shè)備上對(duì)來(lái)自其多模式傳感器管道的數(shù)據(jù)進(jìn)行更低延遲的處理，同時(shí)保持在節(jié)能、成本優(yōu)化的小尺寸尺寸的限制范圍內(nèi)。

Jetson Orin Nano 系列

Jetson Orin Nano 系列生產(chǎn)模塊將于 1 月份上市，起價(jià) 199 美元。這些模塊以最小的 Jetson 外形尺寸提供高達(dá) 40 TOPS 的 AI 性能，功率選項(xiàng)低至 5W ，高達(dá) 15W 。該系列有兩個(gè)不同的版本： Jetson Orin Nano 4GB 和 Jetson Orin Nano 8GB 。

圖 1. Jetson Orin Nano 的方塊圖

* Jetson Orin Nano 8GB 的 NVIDIA Orin 架構(gòu)， Jetson Orin Nano 4GB 有 2 個(gè) TPC 和 4 個(gè) SM 。

如圖 1 所示， Jetson Orin Nano 展示了帶有 NVIDIA 安培架構(gòu) GPU 的 NVIDIA -Orin 架構(gòu)。它有多達(dá) 8 個(gè)流式多處理器（ SM ），由 1024 個(gè) CUDA 核和多達(dá) 32 個(gè)用于 AI 處理的張量核組成。

NVIDIA Ampere Architecture 第三代 Tensor Cores 的每瓦特性能優(yōu)于前一代，并在支持稀疏性的情況下帶來(lái)更高的性能。通過(guò)稀疏性，您可以利用深度學(xué)習(xí)網(wǎng)絡(luò)中的細(xì)粒度結(jié)構(gòu)化稀疏性，將 Tensor Core 操作的吞吐量提高一倍。

為了加速應(yīng)用程序管道的所有部分， Jetson Orin Nano 還包括一個(gè) 6 核 Arm Cortex-A78AE CPU 、視頻解碼引擎、 ISP 、視頻圖像合成器、音頻處理引擎和視頻輸入塊。

Jetson Orin Nano 模塊占地面積小，為 70x45mm ， 260 針 SODIMM ，包括各種高速接口：

最多七條 PCIe Gen3 通道

三個(gè)高速 10 Gbps USB 3.2 Gen2 端口

八通道 MIPI CSI-2 攝像頭端口

各種傳感器 I / O

為了減少您的工程工作量，我們已使 Jetson Orin Nano 和 Jetson Orin NX 模塊完全兼容引腳和外形。表 1 顯示了 Jetson Orin Nano 4GB 和 Jetson Orin Nano 8GB 之間的差異。

立即使用 Jetson AGX Orin Developer Kit 和模擬開(kāi)始您的開(kāi)發(fā)

Jetson AGX Orin Developer Kit 和所有Jetson Orin模塊共享一個(gè) SoC 架構(gòu)，使開(kāi)發(fā)人員工具包能夠模擬任何模塊，使您能夠輕松開(kāi)始開(kāi)發(fā)下一個(gè)產(chǎn)品。

在開(kāi)始將其應(yīng)用程序移植到新的 NVIDIA Orin 體系結(jié)構(gòu)和最新的 NVIDIAJetPack之前，您無(wú)需等待 Jetson Orin Nano 硬件可用。使用今天發(fā)布的新疊加層，您可以使用開(kāi)發(fā)人員工具包模擬 Jetson Orin Nano 模塊，就像其他 Jetson Orin 模塊一樣。通過(guò)將開(kāi)發(fā)人員工具包配置為模擬 Jetson Orin Nano 8GB 或 Jetson Orin Nano 4GB ，您可以開(kāi)發(fā)和運(yùn)行完整的應(yīng)用程序管道。

圖 2.模擬所有六個(gè) Jetson Orin 模塊

Jetson Orin Nano 的性能基準(zhǔn)

憑借 Jetson AGX Orin ， NVIDIA 在 MLPerf 的inference performance類(lèi)別中處于領(lǐng)先地位。 Jetson Orin 模塊為您的下一代應(yīng)用程序提供了巨大的飛躍，現(xiàn)在入門(mén)級(jí) AI 設(shè)備也可以使用相同的 NVIDIA Orin 架構(gòu)。

我們使用 NVIDIA JetPack 5.0.2 的仿真模式運(yùn)行 Jetson Orin Nano 的計(jì)算機(jī)視覺(jué)基準(zhǔn)測(cè)試，結(jié)果顯示了它是如何設(shè)置新標(biāo)準(zhǔn)的。測(cè)試包括來(lái)自 NGC 的一些密集 INT8 和 FP16 預(yù)處理模型，以及標(biāo)準(zhǔn) ResNet-50 模型。我們還在 Jetson Nano 、 TX2 NX 和 Xavier NX 上運(yùn)行相同的模型進(jìn)行比較。

以下是基準(zhǔn)的完整列表：

NVIDIA PeopleNet v2.3用于修剪人員檢測(cè)，NVIDIA PeopleNet v2.5用于最高精度的人員檢測(cè)

NVIDIA ActionRecognitionNet二維和三維模型

NVIDIA LPRNet用于車(chē)牌識(shí)別

NVIDIA DashCamNet，BodyPoseNet用于多人人體姿勢(shì)估計(jì)

ResNet-50（ 224 × 224 ）型號(hào)

圖 3. Jetson Orin Nano 系列基準(zhǔn)編號(hào)

圖 4. Jetson Orin Nano 系列基準(zhǔn)圖

以這些基準(zhǔn)的平均值來(lái)看， Jetson Orin Nano 8GB 的性能比 Jetson Nano 提高了 30 倍。隨著未來(lái)軟件的改進(jìn)，我們預(yù)計(jì)性能將提高 45 倍。其他 Jetson 設(shè)備自其第一個(gè)支持軟件發(fā)布以來(lái)，性能提高了 1.5 倍，我們預(yù)計(jì) Jetson Orin Nano 也會(huì)如此。

Jetson 運(yùn)行 NVIDIA AI 軟件堆棧，并提供特定于用例的應(yīng)用程序框架，包括用于機(jī)器人的NVIDIA Isaac、用于視覺(jué) AI 的NVIDIA DeepStream和用于會(huì)話 AI 的NVIDIA Riva。使用NVIDIA Omniverse Replicator可以節(jié)省大量時(shí)間用于合成數(shù)據(jù)生成（ SDG ），使用NVIDIA TAO Toolkit可以節(jié)省大量的時(shí)間用于微調(diào) NGC 目錄中的預(yù)處理 AI 模型。

Jetson 與整個(gè) NVIDIA AI 加速計(jì)算平臺(tái)的兼容性使開(kāi)發(fā)和無(wú)縫遷移變得容易。有關(guān)我們引入 Jetson Orin 的 NVIDIA 軟件技術(shù)的更多信息，請(qǐng)加入我們即將推出的webinar about NVIDIA JetPack 5.0.2。

使用 NVIDIA ISAAC ROS 增強(qiáng)入門(mén)級(jí)機(jī)器人

Jetson Orin 平臺(tái)旨在解決最棘手的機(jī)器人挑戰(zhàn)，并為 70 多萬(wàn) ROS 開(kāi)發(fā)者帶來(lái)加速計(jì)算。結(jié)合 Jetson Orin Nano 強(qiáng)大的硬件功能， ROS 最新 NVIDIA ISAAC 軟件的增強(qiáng)功能為機(jī)器人專(zhuān)家提供了卓越的性能和生產(chǎn)力。

新的Isaac ROS DP版本優(yōu)化了可以在 Jetson Orin 平臺(tái)上執(zhí)行的 ROS2 節(jié)點(diǎn)處理管道，并提供了新的基于 DNN 的 GEMS ，旨在提高吞吐量。 Jetson Orin Nano 可以利用那些高度優(yōu)化的ROS2 packages執(zhí)行定位、實(shí)時(shí) 3D 重建和深度估計(jì)等任務(wù)，這些任務(wù)可用于避障。

與只能處理簡(jiǎn)單應(yīng)用程序的原始 Jetson Nano 不同， Jetson Orin Nano 可以運(yùn)行更復(fù)雜的應(yīng)用程序。隨著不斷致力于提高 NVIDIA ISAAC ROS ，您將看到 Jetson Orin 平臺(tái)的精確度和吞吐量隨著時(shí)間的推移而不斷提高。

對(duì)于開(kāi)發(fā)下一代服務(wù)機(jī)器人、智能無(wú)人機(jī)等的機(jī)器人專(zhuān)家來(lái)說(shuō)， Jetson Orin Nano 是一種理想的解決方案，它具有高達(dá) 40 個(gè) TOPS ，可在節(jié)能和小尺寸的情況下實(shí)現(xiàn)現(xiàn)代 AI 推理管道。

關(guān)于作者

Leela Karumbunahan 是 NVIDIA 的硬件產(chǎn)品經(jīng)理，專(zhuān)注于 Jetson 和自動(dòng)機(jī)器。她曾在半導(dǎo)體行業(yè)從事工程和產(chǎn)品相關(guān)工作。她獲得了約翰·霍普金斯大學(xué)電氣工程學(xué)士學(xué)位。

審核編輯：郭婷