在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

借助 NVIDIA 融合加速器開發套件加速數據中心 AI

NVIDIA英偉達 ? 來源:NVIDIA 英偉達 ? 作者:NVIDIA 英偉達 ? 2021-11-16 16:12 ? 次閱讀

現代數據中心變得越來越難以管理。應用程序和 PB 級日志數據之間有數十億條可能的連接路徑。靜態規則不足以適應動態微服務的安全策略,而且人工已經無法應對數量龐大的日志數據的分析。

AI 是通往未來安全和自主管理式數據中心的唯一出路。

NVIDIA 融合加速器在業界率先推出 AI 增強型 DPU。它將 GPU 的強大計算能力與 DPU 的網絡加速和安全優勢相結合,為 AI 增強型數據中心管理創造了統一平臺。融合加速器可將 AI 生成的規則應用于數據中心網絡中的每個數據包,為實現實時安全和管理創造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨特的能力,除了 BlueField-2 的卸載、隔離和加速網絡功能,進一步拓展到 AI 推理和訓練功能。

兩款加速器都包含一個集成的 PCIe 交換機實現DPU 和 GPU 連接。集成交換機能夠消除對主機資源的爭用,實現線速 GPUDirect RDMA 性能。集成交換機還通過隔離 GPU 和網卡之間移動的數據來提高安全性。

AI 增強型 DPU

融合加速器支持兩種運行模式:

標準模式 – BlueField-2 DPU 和 GPU 分別獨立運行。

BlueField-X模式 – PCI 交換機進行了重新配置,GPU 將專用于 DPU,并且對于主機系統不可見。

在 BlueField-X 模式下,只有 DPU 上運行的操作系統可見到GPU。BlueField-X 模式在業界首創了一種新型加速器類型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機服務器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機與 DPU連接。

在 BlueField-X 模式下,GPU 可以對流經 DPU 的數據運行 AI 模型,成為 “bump in the wire”。保障安全同時,無性能損耗。AI 模型無需消耗主機資源,實現完全加速。

BlueField-X 為網絡安全、數據中心管理和 I/O 加速解鎖新穎使用場景。例如,Morpheus 網絡安全框架使用機器學習對以往無法識別的安全威脅進行有效處理。Morpheus 通過 DPU 從數據中心的各個服務器獲取遙測數據,并將其發送到配備 GPU 的服務器進行分析。

有了 BlueField-X,AI 模型可以在每個服務器的融合加速器上直接本地運行。這使 Morpheus 能夠更快地分析更多數據,同時消除代價很高的數據移動,并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數據泄漏預防和動態防火墻規則創建等。

Morpheus 示例僅僅是 BlueField-X 實現加速的一種使用場景。我們的客戶經常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強的網絡進行更多創造性的探索,我們現正推出 NVIDIA 融合加速器開發套件。

結合此開發套件,我們為有意構建新一代加速 AI 網絡應用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗計劃。在邊緣計算或數據中心管理中探索 BlueField-X 的新應用場景。以下例子為您做參考:

透明視頻預處理 – Bump-in-the-wire 視頻預處理(解密、交錯、格式轉換等),以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號處理聚合加速器,以增加商業 gNodeB 服務器上的用戶密度和吞吐量。

計算存儲 – Bump-in-the-wire 存儲加密、索引和哈希,為長期存儲主機數據準備處理卸載昂貴的 CPU 資源。

作弊檢測 – 檢測流式游戲服務中的惡意游戲/作弊

開始使用 NVIDIA 融合加速器開發套件

NVIDIA 融合加速器開發套件包含有結合 CUDA 和 NVIDIA DOCA 的示例應用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應用支持來換取用戶的寶貴反饋。

要開始使用,只需在 NVIDIA 融合加速器開發套件網頁上完成注冊。獲得批準后,一旦硬件準備好發貨,將由工作人員主動聯系。之后就可以開啟新一代加速應用之旅了。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 加速器
    +關注

    關注

    2

    文章

    821

    瀏覽量

    38757
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4880

    瀏覽量

    130330
  • 主機
    +關注

    關注

    0

    文章

    1029

    瀏覽量

    35719
  • 數據中心
    +關注

    關注

    16

    文章

    5057

    瀏覽量

    73017
  • DPU
    DPU
    +關注

    關注

    0

    文章

    386

    瀏覽量

    24556

原文標題:GTC21 | 借助 NVIDIA 融合加速器開發套件加速數據中心 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    倍,可見天璣的AI開發者解決方案已經被開發者高度認可,天璣AI生態圈正在飛速成長起來。 聯發科與OPPO深度合作,共同研發,借助天璣
    發表于 04-13 19:52

    是德科技推出AI數據中心構建

    是德科技(NYSE:KEYS)推出Keysight AI (KAI)數據中心構建,這是一款先進的軟件套件,通過模擬真實工作負載來評估新算法、組件和協議對
    的頭像 發表于 04-07 11:06 ?341次閱讀

    適用于數據中心AI時代的800G網絡

    和性能隔離能力,以保障不同用戶任務互不干擾。 分布式AI計算與網絡架構設計 分布式計算已成為AI訓練的主流方式,通過將工作負載分配到多個GPU節點并行處理,以加速模型訓練。這對數據中
    發表于 03-25 17:35

    Cadence 利用 NVIDIA Grace Blackwell 加速AI驅動的工程設計和科學應用

    融合設計專業知識與加速計算,推動科技創新、實現能效和工程生產力方面的突破性進展,引領全球生活新范式 內容提要 ●?Cadence 借助 NVIDIA 最新 Blackwell 系統,將
    的頭像 發表于 03-24 10:14 ?499次閱讀

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    FPGA的硬件加速能力處理傳感數據。? 低功耗設計:針對邊緣設備和物聯網應用,開發低功耗的FPGA解決方案,以滿足嚴格的功耗限制。 4.借助
    發表于 03-03 11:21

    數據中心中的FPGA硬件加速器

    ? 再來看一篇FPGA的綜述,我們都知道微軟包括國內的云廠商其實都在數據中心的服務中部署了FPGA,所以這篇論文就以數據中心的視角,來看下FPGA這個硬件加速器。 還是一樣,想要論文
    的頭像 發表于 01-14 10:29 ?403次閱讀
    <b class='flag-5'>數據中心</b>中的FPGA硬件<b class='flag-5'>加速器</b>

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創意加速器

    加速器
    龍智DevSecOps
    發布于 :2024年11月26日 13:42:47

    NVIDIA加速AI在日本各行各業的應用

    企業借助基于 NVIDIA AI Enterprise 與 Omniverse 工業 AI 構建的創新中心和服務
    的頭像 發表于 11-19 15:45 ?547次閱讀

    日本企業借助NVIDIA產品加速AI創新

    日本領先企業和大學正在使用 NVIDIA NeMo、NIM 微服務和 NVIDIA Isaac 加速 AI 創新。
    的頭像 發表于 11-19 14:34 ?698次閱讀

    【xG24 Matter開發套件試用體驗】深入了解Silicon Labs xG24 Matter開發套件

    -使用Silicon Labs xG24開發套件支持智能加速器以構建聲音感知門鎖”(Creating a Smarthome Device That Is Truly Smart - Building
    發表于 08-27 20:23

    適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案

    電子發燒友網站提供《適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案.pdf》資料免費下載
    發表于 08-26 09:38 ?0次下載
    適用于<b class='flag-5'>數據中心</b>應用中的硬件<b class='flag-5'>加速器</b>的直流/直流轉換<b class='flag-5'>器</b>解決方案

    【xG24 Matter開發套件試用體驗】初識xG24 Matter開發套件

    借助高性能 2.4 GHz RF、低電流消耗、人工智能 (AI)/機器學習 (ML) 硬件加速器和 Secure Vault 等關鍵功能,物聯網設備制造商可以打造智能、強大、節能且能夠避免遠程
    發表于 07-11 23:31

    “白地板”方案,智算中心加速器

    明德源能白地板方案,智算中心加速器
    的頭像 發表于 06-21 11:54 ?1006次閱讀

    八大科技巨頭攜手推進UALink,加速數據中心AI互聯

    近日,英特爾、Google、微軟、Meta等八家科技巨頭宣布共同成立超加速器鏈接(UALink)推廣小組,致力于推動數據中心AI加速器芯片的連接組件發展。UALink旨在優化
    的頭像 發表于 05-31 10:59 ?1030次閱讀

    美國限制向中東AI加速器出口,審查國家安全

    AI加速器能協助數據中心處理大量人工智能聊天機器人和其他工具的開發信息。如今,它們已然成為構建AI基礎設施的企業和政府的必需品。
    的頭像 發表于 05-31 09:20 ?846次閱讀
    主站蜘蛛池模板: 女人张开双腿让男人桶完整 | 特级一级毛片视频免费观看 | 久久精品免看国产 | 久碰香蕉精品视频在线观看 | 人人舔人人爱 | 国产aa| 凸输偷窥xxxx自由视频 | 午夜视频在线播放 | 九九热在线观看 | 黄视频在线观看免费 | 色宅男午夜电影在线观看 | 黄色一级大片视频 | 亚洲最新| 亚洲成人av| 老色视频 | 深爱激情婷婷 | 在线午夜| 伊人一区二区三区 | 国产小视频在线 | 久久久精品免费热线观看 | 四虎最新免费观看网址 | 色猫av | 特黄特a级特别特级特毛片 特黄特色大片免费播放路01 | 亚洲啪啪网站 | 干干天天| 五月六月伊人狠狠丁香网 | 天天爱夜夜操 | 最近在线观看免费完整视频 | 成人爽a毛片在线视频网站 成人窝窝午夜看片 | 天天干天天拍天天操 | 国产免费午夜高清 | 狼狼狼色精品视频在线播放 | 欧美在线性 | 免费v片网站 | 黄色片网站大全 | 午夜高清视频 | 蜜色网 | 亚洲日本高清 | xx在线观看| 欧美精品国产第一区二区 | 国内精品久久久久久久久蜜桃 |