91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

使用 NVIDIA BlueField-3 DPU 驅動下一波應用程序

NVIDIA英偉達 ? 來源:未知 ? 2023-05-24 05:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

ChatGPT、Stable Diffusion、DALL-E 以及類似的應用程序讓生成式 AI 震驚了世界。ChatGPT 是有史以來發展最快的應用程序。其易用性和令人印象深刻的功能在短短幾個月內吸引了超過一億用戶。

生成式 AI 為企業重塑其產品和商業模式帶來了緊迫感。正如 NVIDIA 創始人兼首席執行官黃仁勛在 GTC 2023 主題演講中所說:“AI 的 iPhone 時刻已經到來?!?NVIDIA 加速計算正在助力全球企業通過解決超出普通計算機能力的問題來利用人工智能。

NVIDIA BlueField DPU 助力加速計算

NVIDIA 加速計算技術堆棧使每個行業都能利用人工智能的強大功能,提供運行下一波應用程序所需的性能、規模和能效水平。

加速計算主要運行在三個基本元素之上:

  • CPU:用于串行處理和運行超線程應用程序。

  • GPU:擅長并行處理,并針對加速現代工作負載進行了優化。

  • DPU:非常適合基礎設施計算任務;用于卸載、加速和隔離數據中心網絡、存儲、安全和管理工作負載。

在現代軟件定義數據中心中,執行虛擬化、網絡、存儲和安全的操作系統可能會消耗近一半的數據中心 CPU 核心和相關電力。數據中心必須加速每個工作負載以節省電力,并釋放 CPU 來處理創收工作負載。

NVIDIA BlueField DPU(數據處理器)卸載并加速數據中心操作系統和基礎設施軟件。

NVIDIA 正在其數據中心計算系統中集成 BlueField-3 DPU,包括第三代 NVIDIA OVX 系統,以便在數據中心規模創建和操作 NVIDIA Omniverse 應用程序。想了解更多信息,請參閱 NVIDIA 發布用于驅動工業元宇宙應用的第三代 OVX 計算系統,推動 Omniverse 實現大規模部署。

使用 DPU 的領先企業

Oracle 云基礎設施(OCI)繼在 GTC 2023 發布之后,最近公布了將 NVIDIA BlueField-3 DPU 集成到其網絡堆棧中的計劃。該計劃旨在通過將網絡和安全任務從 CPU 卸載到 DPU 來優化數據中心性能,從而實現更快、更高效的處理。

通過利用 BlueField-3 DPU 的強大功能,OCI 隨時可以增強其基礎設施,為客戶提供無縫的云體驗。想了解更多詳細信息,請參閱 Oracle 云基礎設施(OCI)選擇 NVIDIA BlueField 數據中心加速平臺。

此外,包括 Check Point、Cisco 、DDN、Dell EMC、Juniper、Palo Alto Networks、Red Hat 和 VMWare 在內的二十多個生態系統合作伙伴使用 BlueField 數據中心加速技術來更高效地運行其軟件平臺。

NVIDIA BlueField -3 平臺概述

NVIDIA BlueField-3 具有 220 億個晶體管,是第三代 NVIDIA DPU。它是一款片上系統(SoC)設備,可提供高達 400Gbps 以太網和 InfiniBand 連接。BlueField -3 DPU 最多支持四個不同的 MAC 地址,可以提供各種端口配置,從單個 400Gbps 端口(四通道 PAM4 112)到四個 25、50 或 100 Gbps端口。

與上一代相比,BlueField-3 DPU 具有 2 倍的網絡帶寬、4 倍的計算能力和幾乎 5 倍的內存帶寬,同時通過 NVIDIA DOCA 軟件框架提供完全的向后兼容性。

這些關鍵進步使 BlueField-3 DPU 能夠以高達 8 倍的速度運行工作負載,同時降低 TCO 并提高數據中心能效。例如,BlueField -3 DPU 可從 CPU 卸載 HPC / AI MPI 集合通信,將速度提高近 20%,這相當于為大型超級計算機節省 1800 萬美元的成本。想了解更多信息,請參閱節能環保:NVIDIA BlueField DPU 提升數據中心效率。

ded187d6-f9b2-11ed-90ce-dac502259ad0.png

圖 1:與 NVIDIA BlueField -2 DPU 相比,

NVIDIA BlueField -3 DPU 的內存帶寬和計算能力提高了四倍

BlueField-3 DPU 由三個主要模塊組成:

  • 網絡:集成網絡和安全硬件加速器的最新一代 NVIDIA ConnectX-7 智能網卡。

  • 編程計算:具有 16 個 ARM A78 v8.2 核心組成的強大集群,專為控制平面應用程序提供優化的、完全一致的低延遲網絡互連技術。數據平面可編程性通過加速管道線(pipeline)和新的可編程數據路徑加速器(DPA)實現。數據路徑加速器是一顆由 16 個超線程核心組成的 I/O 和數據包處理器,專為設備仿真、擁塞控制、自定義協議等 IO 密集型、低計算任務而構建。

  • 內存:雙 64 位 DDR5-5600 內存接口(80GB 帶寬)和集成的 32 通道第五代 PCIe 交換機。PCIe 接口可以分叉并用作服務器托管(端點)或自托管(根復合體),以管理 GPU 或直連 SSD 設備。

作為 “服務器前面的服務器”,BlueField-3 DPU 是唯一配備集成式 ASPEED AST2600 基板管理控制器(BMC)的 DPU 平臺。BlueField BMC 是一個專用處理器,用于監控 DPU 板的物理狀態,并使系統管理員能夠通過獨立連接來管理平臺。這增強了系統的安全性、可靠性、可用性和可維護性。

DPU BMC 是一個受信任的實體,具有自己的外部信任根,以確保其固件的安全。它支持通過獨立的帶外管理網絡調配和管理 BlueField DPU,并使用標準接口和 Redfish 協議管理 DPU 的整個生命周期。

BMC 的一些功能包括:

  • 控制臺接口訪問 BlueField DPU

  • 設置 BlueField UEFI 配置

  • 監測 BlueField DPU 及其資源

  • 更新和恢復 BlueField DPU 固件

  • 重置控制(即使在 BlueField 操作系統停止時)

BlueField-3 DPU 全面產品線

NVIDIA 提供了各種 BlueField-3 DPU 平臺,旨在滿足各行各業和用例的獨特計算、內存和性能需求。這使客戶能夠選擇符合其特定要求的 BlueField-3 DPU 產品,同時享受先進的功能和尖端的性能。

def9890c-f9b2-11ed-90ce-dac502259ad0.jpg

圖 2:面向不同目標市場的

NVIDIA BlueField-3 DPU 旗艦平臺

目標市場和旗艦平臺

BlueField-3 DPU 用于幾個關鍵旗艦平臺和目標市場,具體如下:

超大規模高性能計算(HPC)/

人工智能(AI)

高性能計算和人工智能工作負載是率先采用 400Gbps(NDR InfiniBand 和 400 GbE)網絡速度的工作負載,因為高性能計算就是為了實現最高性能和巨大規模的。BlueField DPU 利用其 ARM 核心從系統主機 CPU 卸載消息傳遞接口(MPI)的元素,并實現了無阻塞集合通信,從而擴展了 NVIDIA 網絡計算能力。這使得系統主機 CPU 能夠在峰值重疊時執行計算。

B3240:擁有滿足極具挑戰性的超大規模高性能計算/人工智能需求的強大性能和網絡能力。此 BlueField-3 DPU 平臺為 NVIDIA DGX H100 等系統提供動力,使其能夠承擔科學研究或生成人工智能的工作負載。它使用雙 400Gbps NDR 連接、32GB DDR5 內存子系統和 2.3GHz 的 ARM 核心速度。

B3140H:具有半高半長(HHHL)外形規格,使其與大多數企業服務器兼容。該設備提供單個 400Gbps 端口和 16GB DDR5 內存,同時在低功耗范圍內運行。這使其成為高性能計算/人工智能環境的理想選擇,在空間或電源可用性受限的環境下實現所需的可擴展性能。

云計算

云行業正在經歷的快速增長要求云提供商不斷創新和定制其服務產品,以滿足客戶需求?,F代云平臺使用基于虛擬機監控程序(Hypervisor)的虛擬化,以最大限度地增加在計算和數據中心層面可分配給租戶的虛擬實例數量。BlueField-3 DPU 支持多達 4096 個虛擬功能(VF),使云提供商能夠在云計算平臺上托管比上一代多 4-8 倍的虛擬實例。

B3220:提供雙 200Gbps 端口、32GB DDR5 內存子系統和 2.3GHz 的 ARM 核心速度,具有滿足最具挑戰性的云所需的性能和網絡功能。因此,超大規模 Oracle 云基礎設施(OCI)已在其網絡堆棧中添加了 BlueField-3 DPU,旨在提供最先進、可持續的云基礎設施,并提供卓越的性能。B3220 平臺還為 NVIDIA OVX 3.0 系統助力,實現更高的性能、零信任安全,并在云中無限擴展工業元宇宙應用程序。

B3210:100Gbps 速率的 B3210 非常適合滿足領先企業數據中心的需求。B3210 是運行企業工作負載平臺 VMware vSphere 的目標 DPU,為成千上萬的公司提高性能、效率和安全性。

儲存

B3220SH:B3220SH 自托管平臺對集成 NVMe-oF、NVMe/TCP 或靜態數據加速器的 NVMe 存儲系統進行了優化。B3220SH 可通過 32 通道的第五代 PCIe 接口托管多達 16 個 SSD。

業界領先的網絡性能

與上一代產品相比,BlueField-3 DPU 具有顯著的性能提升,使其成為需要高性能網絡的數據密集型人工智能工作負載的理想解決方案。圖 3 顯示了基準測試結果,證明了BlueField-3 DPU 領先的網絡性能。

df164628-f9b2-11ed-90ce-dac502259ad0.jpg

圖 3 :NVIDIA BlueField-3 DPU

和 BlueField-2 DPU 的測試結果比較

使用 NVIDIA BlueField-3 DPU

為您的應用程序助力

在云主導企業 IT 的時代,生成式 AI、數據科學和元宇宙應用程序等現代工作負載正在蓬勃發展。為了滿足對人工智能飛速發展的需求,云構建商開始采用 NVIDIA 加速計算(主要是 GPU 和 DPU)。

NVIDIA BlueField-3 DPU 由 NVIDIA DOCA 軟件提供助力,將傳統的計算環境轉變為高效、高性能、安全且可持續的數據中心,從而實現下一波應用程序的交付。

觀看下方視頻

了解更多關于 NVIDIA BlueField DPU 的信息!

掃描下方二維碼,或點擊“閱讀原文” 查看更多有關 NVIDIA BlueField DPU 的信息。

df385ed4-f9b2-11ed-90ce-dac502259ad0.png


掃描下方二維碼,即可查看 BlueField-3 DPU 產品手冊和網絡產品資源。

df4bc7a8-f9b2-11ed-90ce-dac502259ad0.png

df6a23e2-f9b2-11ed-90ce-dac502259ad0.gif ?

NVIDIA BlueField DPU 往期內容 使用 VMware vSphere 8 和 NVIDIA BlueField DPU 加速 Redis 性能
借助 NVIDIA DPU 和 NVIDIA DOCA 為人工智能時代的數據中心帶來變革
GTC23 | Oracle 云基礎設施 (OCI) 選擇 NVIDIA BlueField 數據中心加速平臺
NVIDIA 人工智能開講 | BlueField DPU 如何幫助企業提升數據中心能效
白皮書發布 | 看 NVIDIA BlueField DPU 如何讓數據中心變得更加環保


原文標題:使用 NVIDIA BlueField-3 DPU 驅動下一波應用程序

文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3953

    瀏覽量

    93785

原文標題:使用 NVIDIA BlueField-3 DPU 驅動下一波應用程序

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    FX3 UVC 無法與 Ubuntu 24.04 Cheese 或 Snapshot 相機應用程序配合使用,怎么處理?

    添加了來自 VLC 的日志以供比較。根據日志,似乎 PipeWire 或 UVC 驅動程序存在些問題。 我直在做些調試,發現對于 Ubuntu 視頻有
    發表于 07-16 06:37

    NVIDIA DOCA 3.0版本的亮點解析

    NVIDIA DOCA 框架已發展成為新代 AI 基礎設施的重要組成部分。從初始版本到備受期待的 NVIDIA DOCA 3.0 發布,每個版本都擴展了 NVIDIA
    的頭像 發表于 07-04 14:27 ?339次閱讀
    <b class='flag-5'>NVIDIA</b> DOCA 3.0版本的亮點解析

    第三屆NVIDIA DPU黑客松開啟報名

    碰撞的絕佳機會。本次競賽采用開放式主題,參與者將通過 NVIDIA DOCA 軟件框架構建創新的加速應用程序,充分挖掘 NVIDIA BlueField
    的頭像 發表于 05-27 10:16 ?427次閱讀

    如何使用CYUSB3KIT-003使用GPIO訪問SRAM的應用程序

    你好。我是CYUSB3的初學者。 我想創建個使用 CYUSB3KIT-003 使用 GPIO 訪問 SRAM 的應用程序。 目前我已經在我的電腦上安裝了SDK,但是有什么參考資料嗎?
    發表于 05-14 06:51

    如何在Ubuntu上安裝NVIDIA顯卡驅動?

    作者:算力魔方創始人/英特爾創新大使劉力 ,前言 對于使用NVIDIA顯卡的Ubuntu用戶來說,正確安裝顯卡驅動是獲得最佳圖形性能的關鍵。與Windows系統不同,Linux系統通常不會自動安裝
    的頭像 發表于 05-07 16:05 ?700次閱讀
    如何在Ubuntu上安裝<b class='flag-5'>NVIDIA</b>顯卡<b class='flag-5'>驅動</b>?

    JCMsuite應用:四分之一波

    是光手性的本征態。因此,近場光手性密度與圓偏振密切相關。在幾何光學中,四分之一波板將線偏振轉換為圓偏振是眾所周知的。它們是由雙折射材料制成的,例如各向異性材料。片的厚度是尋常(x-)偏振和非尋常(z-
    發表于 02-21 08:49

    NVIDIA網絡安全AI平臺助力保護關鍵基礎設施

    此平臺集成了 NVIDIA BlueField 和 Morpheus,并為 Armis、Check Point Software Technologies、CrowdStrike、Deloitte 和 WWT 的下一代網絡防御提
    的頭像 發表于 02-19 10:22 ?506次閱讀

    利用NVIDIA DPF引領DPU加速云計算的未來

    DPU 的強大功能,并優化 GPU 加速計算平臺。作為種編排框架和實施藍圖,DPF 使開發者、服務提供商和企業能夠無縫構建 BlueField 加速的云原生軟件平臺。
    的頭像 發表于 01-24 09:29 ?718次閱讀
    利用<b class='flag-5'>NVIDIA</b> DPF引領<b class='flag-5'>DPU</b>加速云計算的未來

    ANACONDA——關于發布數據應用程序的新簡單方法

    與 Anaconda 的云筆記本服務無縫集成,為用戶提供了種輕松共享筆記本結果的方式,并讓其他人也可以隨意的訪問它們。 下面我們來了解關于這項新功能的實際應用: 這項功能與 Panel 的多功能性相結合,將徹底改變您發布數據應用程序的方式。使用這個強大的工具,為共享和協
    的頭像 發表于 01-17 11:39 ?430次閱讀
    ANACONDA——關于發布數據<b class='flag-5'>應用程序</b>的新簡單方法

    NVIDIA BlueField-3 DPU上運行WEKA客戶端的實際優勢

    WEKA是可擴展軟件定義數據平臺的先驅,NVIDIA 正在與其合作,將 WEKA 先進的數據平臺解決方案與功能強大的NVIDIA BlueField DPU相結合。
    的頭像 發表于 01-07 09:43 ?673次閱讀
    在<b class='flag-5'>NVIDIA</b> <b class='flag-5'>BlueField-3</b> <b class='flag-5'>DPU</b>上運行WEKA客戶端的實際優勢

    無刷電機正弦驅動原理分析

    在上期芝識課堂里,大家應該已經學會如何用方波驅動讓無刷電機運轉,下一步我們來起嘗試用正弦驅動
    的頭像 發表于 12-02 10:00 ?2002次閱讀
    無刷電機正弦<b class='flag-5'>波</b><b class='flag-5'>驅動</b>原理分析

    AWTK-WEB 快速入門(1) - C 語言應用程序

    導讀AWTK可以使用相同的技術棧開發各種平臺的應用程序。有時我們需要使用Web界面與設備進行交互,本文介紹下如何使用C語言開發AWTK-WEB應用程序。用AWTKDesigner新建
    的頭像 發表于 11-27 11:46 ?717次閱讀
    AWTK-WEB 快速入門(1) - C 語言<b class='flag-5'>應用程序</b>

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 軟件平臺釋放了 NVIDIA BlueField 網絡平臺的潛力,并為NVIDIA BlueField和Connec
    的頭像 發表于 11-09 13:50 ?1009次閱讀

    簡單認識NVIDIA網絡平臺

    BlueField-3 SuperNIC,為多租戶生成式 AI 云和大型企業級用戶提供了各種至關重要的先進功能。其核心結構是交換機 + SuperNIC(超級網卡)+ LinkX + DOCA 軟件開發包 + NCCL 集合通信庫。
    的頭像 發表于 09-09 09:22 ?813次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術白皮書

    大規模生產環境落地應用的條件。某種程度上,IoD 技術已成為下一代高性能算力底座的核心技術與最佳實踐。 白皮書下載:*附件:IaaS+on+DPU(IoD)+下一代高性能算力底座+技術白皮書(1).pdf
    發表于 07-24 15:32
    主站蜘蛛池模板: 中文字幕亚洲一区二区v@在线 | 女人张开双腿让男人桶爽免 | 美女自熨出白浆视频在线播放 | 你懂的 在线观看 | 午夜影视在线 | 国产成人精品亚洲日本在线观看 | 9久久99久久久精品齐齐综合色圆 | 精品国产成人三级在线观看 | 四虎官网| 天天影视欧美综合在线观看 | 免费看一级特黄a大片 | 人人干人人干 | 亚洲人成在线精品 | 高清欧美一级在线观看 | 日本福利网址 | 久久亚洲一级毛片 | xx性欧美高清 | 色丁香久久 | 天天色综合天天 | 婷婷视频网站 | 五月激情电影 | 天天干天天干天天天天天天爽 | 99热久久久久久久免费观看 | 轻点灬大ji巴太粗太大了小说 | 一级网站在线观看 | 色视频在线观看网站 | 免费一级特黄欧美大片勹久久网 | 99热这里只有精品69 | 亚洲专区一区 | 国产成都一二三四区 | 欧美三级一级 | 狠久久| 亚洲 欧美 动漫 | 亚洲最大成人 | 欧美毛片网站 | 国产一级做a爱免费观看 | 久久夜色撩人精品国产 | 精品久草 | 欧美视频一区二区三区四区 | 色天天躁夜夜躁天干天干 | 99午夜高清在线视频在观看 |