邊緣 AI 開發者正在構建用于安全關鍵型和受監管用例的 AI 應用和產品。借助 NVIDIA Holoscan 1.0，這些應用可在幾毫秒內整合實時洞察和加工處理。

借助最新發布的 NVIDIA Holoscan 1.0，開發者可以更加輕松地構建用于多模態實時傳感器處理工作的生產就緒型應用。NVIDIA AI Enterprise 現為 Holoscan 軟件堆棧提供安全補丁和關鍵漏洞修復，并保證 API 的穩定性，這不僅降低了產品維護成本，還簡化了邊緣 AI 應用的大規模部署。

什么是 NVIDIA Holoscan？

Holoscan 是 NVIDIA 不限領域的多模態實時 AI 傳感器處理平臺，它為開發者構建端到端傳感器處理管道奠定了基礎。該平臺以性能、可用性和生產就緒性為架構目標，在優化傳感器處理工作流各環節性能的同時，最大程度地降低開發復雜性。該工作流包含：

傳感器數據入口

加速計算和 AI 推理

實時可視化、執行和數據流出口

從固定功能儀器過渡到軟件定義儀器

Holoscan 平臺具體包含三個主要組成部分。第一個組成部分是軟件，該平臺以數據移動、加速計算、實時可視化和 AI 推理為基礎，建立了不限領域的 AI 實時傳感器處理工作流。

NVIDIA Holoscan 是唯一能將這些功能整合在一起的單一平臺。它不僅能夠保證應用性能，還能降低復雜性，并縮短產品上市時間。NVIDIA Holoscan SDK 為開發者提供了一個低代碼、高性能的環境，使開發者可以通過 Python 或 C++ API 使用自己選擇的編程語言構建工作流。

Holoscan 平臺的第二個組成部分是硬件。Holoscan 支持多種硬件配置，可滿足不同的功率、尺寸、成本、計算和配置需求，包括：

NVIDIA Jetson Orin 系列產品（Orin Nano、Orin NX 和 AGX Orin）

NVIDIA IGX Orin

NVIDIA IGX Orin 外加 NVIDIA 獨立 GPU，同時具備集成 GPU 和獨立 GPU 的功能

搭載 NVIDIA 獨立 GPU 的 x86 系統（工作站或云）

Holoscan 平臺的第三個組成部分是企業支持，專門用于滿足醫療技術產品發布前和發布后的需求。通過 NVIDIA AI Enterprise 提供的 Holoscan 軟件服務可獲得長期（長達 10 年）的全棧軟件支持。

該服務具體可向開發者發布安全補丁和關鍵漏洞修復，并保證 API 的穩定性，從而大大降低產品維護成本。這不僅簡化了操作，還讓開發者能夠更加放心地大規模部署 AI 應用。

生產就緒性

AI 計算的引入為企業提供了一系列可能性，這些企業正在尋找新的方式來提供差異化和價值，同時更有效地利用數據。然而，AI 軟件堆棧非常復雜，影響因素達數百個，而且使用了大量第三方開放源碼軟件庫。

軟件復雜性的增加等同于脆弱性的增加。安全性、穩定性、可靠性和生產就緒性至關重要，但對于希望在其應用中利用這些軟件的開發者和企業來說卻極具挑戰性，對于醫療設備、機器人等安全關鍵型和受監管的行業來說尤其如此。

例如 2023 年，美國食品及藥品管理局（FDA）發布了新的醫療設備網絡安全指南，規定如果提交的上市前材料中未包含 FD&C 法案第 524B 條（確保設備的網絡安全）所要求的信息，則有可能被拒絕接受（RTA）。根據規定，制造商必須在產品上市后設計并發布更新和補丁，提供軟件物料清單（SBOM）并提交一份確認和解決“上市后網絡安全漏洞”的計劃。

這給該領域開發者和企業的 AI 平臺構建與維護帶來了更大的挑戰：

維護安全的軟件堆棧需要大量資源。

在進行 CVE 掃描后需要進行評估和探索，以便采取進一步行動和措施。

軟件包安全更新可能需要對依賴的 API 進行后續更改，這可能會破壞向后兼容性。

需要對整個堆棧進行持續監控和更新。

這意味著需要定期安裝安全補丁和修復漏洞，并留給了企業兩個代價高昂的選擇：

向后移植補丁和修復程序，以避免破壞堆棧和引發潛在的驗證、確認與重新認證需求。

向前滾動，但會面臨破壞產品功能和增加新錯誤的潛在風險，產生成本高昂的驗證、確認乃至重新認證周期。

生產就緒對 Holoscan 開發者的意義

Holoscan 平臺為邊緣提供了一個用于實時處理多模態數據的加速全棧基礎設施。在過去的幾個版本中，Holoscan 平臺的特性和功能主要集中在高性能計算、低延遲和高吞吐量多模態傳感器流式傳輸以及出色的可用性和更短的產品上市時間等方面。

在加入 NVIDIA AI Enterprise 后，Holoscan 1.0 增加了生產就緒性，能夠為開發者提供端到端全產品生命周期支持，它還能加速企業的 AI 創新過程，同時降低產品擁有和維護的總成本。

在 NVIDIA IGX 上構建產品

憑借全棧軟件支持（包括固件、操作系統、驅動程序、AI 框架、GPU 加速和 SDK），開發者可以通過單一的來源獲得全棧支持，同時還能確保 API 的長期穩定和軟件物料清單（SBOM）的統一。這一經過優化的服務可滿足邊緣客戶的各種需求，例如：

CVE 補丁和關鍵漏洞修復以及 API 的穩定性保證。

靈活的軟件分支，可選擇不同的期限（9 個月至 10 年）以滿足不同行業和不同產品開發階段的開發者需求。9 個月期限支持分支每 6 個月發布一次，10 年期限支持分支每 2.5 年發布一次。

為嵌入式開發者提供 Yocto 企業支持，這些開發者更喜歡使用基于 Yocto 的定制發行版來部署產品。

基于 Yocto 的發行版可實現最小的 SBOM，只需最少的組件即可使設備正常運行。它們不僅簡化了 FMEA、SW/SOUP 危險分析、網絡安全危險分析和滲透測試，降低了上市后維護的監管負擔和成本，還支持嵌入式硬件資源的高效利用，包括存儲、內存、處理能力和電能等。