在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

借助 NVIDIA 融合加速器開發套件加速數據中心 AI

NVIDIA英偉達 ? 來源:NVIDIA 英偉達 ? 作者:NVIDIA 英偉達 ? 2021-11-16 16:12 ? 次閱讀

現代數據中心變得越來越難以管理。應用程序和 PB 級日志數據之間有數十億條可能的連接路徑。靜態規則不足以適應動態微服務的安全策略,而且人工已經無法應對數量龐大的日志數據的分析。

AI 是通往未來安全和自主管理式數據中心的唯一出路。

NVIDIA 融合加速器在業界率先推出 AI 增強型 DPU。它將 GPU 的強大計算能力與 DPU 的網絡加速和安全優勢相結合,為 AI 增強型數據中心管理創造了統一平臺。融合加速器可將 AI 生成的規則應用于數據中心網絡中的每個數據包,為實現實時安全和管理創造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨特的能力,除了 BlueField-2 的卸載、隔離和加速網絡功能,進一步拓展到 AI 推理和訓練功能。

兩款加速器都包含一個集成的 PCIe 交換機實現DPU 和 GPU 連接。集成交換機能夠消除對主機資源的爭用,實現線速 GPUDirect RDMA 性能。集成交換機還通過隔離 GPU 和網卡之間移動的數據來提高安全性。

AI 增強型 DPU

融合加速器支持兩種運行模式:

標準模式 – BlueField-2 DPU 和 GPU 分別獨立運行。

BlueField-X模式 – PCI 交換機進行了重新配置,GPU 將專用于 DPU,并且對于主機系統不可見。

在 BlueField-X 模式下,只有 DPU 上運行的操作系統可見到GPU。BlueField-X 模式在業界首創了一種新型加速器類型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機服務器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機與 DPU連接。

在 BlueField-X 模式下,GPU 可以對流經 DPU 的數據運行 AI 模型,成為 “bump in the wire”。保障安全同時,無性能損耗。AI 模型無需消耗主機資源,實現完全加速。

BlueField-X 為網絡安全、數據中心管理和 I/O 加速解鎖新穎使用場景。例如,Morpheus 網絡安全框架使用機器學習對以往無法識別的安全威脅進行有效處理。Morpheus 通過 DPU 從數據中心的各個服務器獲取遙測數據,并將其發送到配備 GPU 的服務器進行分析。

有了 BlueField-X,AI 模型可以在每個服務器的融合加速器上直接本地運行。這使 Morpheus 能夠更快地分析更多數據,同時消除代價很高的數據移動,并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數據泄漏預防和動態防火墻規則創建等。

Morpheus 示例僅僅是 BlueField-X 實現加速的一種使用場景。我們的客戶經常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強的網絡進行更多創造性的探索,我們現正推出 NVIDIA 融合加速器開發套件。

結合此開發套件,我們為有意構建新一代加速 AI 網絡應用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗計劃。在邊緣計算或數據中心管理中探索 BlueField-X 的新應用場景。以下例子為您做參考:

透明視頻預處理 – Bump-in-the-wire 視頻預處理(解密、交錯、格式轉換等),以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號處理聚合加速器,以增加商業 gNodeB 服務器上的用戶密度和吞吐量。

計算存儲 – Bump-in-the-wire 存儲加密、索引和哈希,為長期存儲主機數據準備處理卸載昂貴的 CPU 資源。

作弊檢測 – 檢測流式游戲服務中的惡意游戲/作弊

開始使用 NVIDIA 融合加速器開發套件

NVIDIA 融合加速器開發套件包含有結合 CUDA 和 NVIDIA DOCA 的示例應用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應用支持來換取用戶的寶貴反饋。

要開始使用,只需在 NVIDIA 融合加速器開發套件網頁上完成注冊。獲得批準后,一旦硬件準備好發貨,將由工作人員主動聯系。之后就可以開啟新一代加速應用之旅了。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 加速器
    +關注

    關注

    2

    文章

    807

    瀏覽量

    38090
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4777

    瀏覽量

    129360
  • 主機
    +關注

    關注

    0

    文章

    1011

    瀏覽量

    35311
  • 數據中心
    +關注

    關注

    16

    文章

    4860

    瀏覽量

    72383
  • DPU
    DPU
    +關注

    關注

    0

    文章

    368

    瀏覽量

    24260

原文標題:GTC21 | 借助 NVIDIA 融合加速器開發套件加速數據中心 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    數據中心中的FPGA硬件加速器

    ? 再來看一篇FPGA的綜述,我們都知道微軟包括國內的云廠商其實都在數據中心的服務中部署了FPGA,所以這篇論文就以數據中心的視角,來看下FPGA這個硬件加速器。 還是一樣,想要論文
    的頭像 發表于 01-14 10:29 ?146次閱讀
    <b class='flag-5'>數據中心</b>中的FPGA硬件<b class='flag-5'>加速器</b>

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創意加速器

    加速器
    龍智DevSecOps
    發布于 :2024年11月26日 13:42:47

    NVIDIA加速AI在日本各行各業的應用

    企業借助基于 NVIDIA AI Enterprise 與 Omniverse 工業 AI 構建的創新中心和服務
    的頭像 發表于 11-19 15:45 ?306次閱讀

    日本企業借助NVIDIA產品加速AI創新

    日本領先企業和大學正在使用 NVIDIA NeMo、NIM 微服務和 NVIDIA Isaac 加速 AI 創新。
    的頭像 發表于 11-19 14:34 ?403次閱讀

    借助OpenUSD和NVIDIA Omniverse開發數字孿生應用

    接口、軟件開發套件和服務組成的,使開發者能夠開發基于 OpenUSD 的應用 NVIDIA Omniverse開發了一款數字孿生應用。
    的頭像 發表于 09-06 14:18 ?450次閱讀

    【xG24 Matter開發套件試用體驗】深入了解Silicon Labs xG24 Matter開發套件

    -使用Silicon Labs xG24開發套件支持智能加速器以構建聲音感知門鎖”(Creating a Smarthome Device That Is Truly Smart - Building
    發表于 08-27 20:23

    適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案

    電子發燒友網站提供《適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案.pdf》資料免費下載
    發表于 08-26 09:38 ?0次下載
    適用于<b class='flag-5'>數據中心</b>應用中的硬件<b class='flag-5'>加速器</b>的直流/直流轉換<b class='flag-5'>器</b>解決方案

    借助NVIDIA NIM加速AI應用部署

    大語言模型(LLM)在企業組織中的應用日益廣泛,許多企業都將其整合到 AI 應用中。雖然從基礎模型著手十分高效,但需要花費一定的精力才能將它們整合到生產就緒型環境中。NVIDIA NIM簡化了這一過程,使企業能夠在數據中心、云、
    的頭像 發表于 08-23 16:38 ?457次閱讀
    <b class='flag-5'>借助</b><b class='flag-5'>NVIDIA</b> NIM<b class='flag-5'>加速</b><b class='flag-5'>AI</b>應用部署

    【xG24 Matter開發套件試用體驗】初識xG24 Matter開發套件

    借助高性能 2.4 GHz RF、低電流消耗、人工智能 (AI)/機器學習 (ML) 硬件加速器和 Secure Vault 等關鍵功能,物聯網設備制造商可以打造智能、強大、節能且能夠避免遠程
    發表于 07-11 23:31

    “白地板”方案,智算中心加速器

    明德源能白地板方案,智算中心加速器
    的頭像 發表于 06-21 11:54 ?849次閱讀

    八大科技巨頭攜手推進UALink,加速數據中心AI互聯

    近日,英特爾、Google、微軟、Meta等八家科技巨頭宣布共同成立超加速器鏈接(UALink)推廣小組,致力于推動數據中心AI加速器芯片的連接組件發展。UALink旨在優化
    的頭像 發表于 05-31 10:59 ?893次閱讀

    美國限制向中東AI加速器出口,審查國家安全

    AI加速器能協助數據中心處理大量人工智能聊天機器人和其他工具的開發信息。如今,它們已然成為構建AI基礎設施的企業和政府的必需品。
    的頭像 發表于 05-31 09:20 ?644次閱讀

    借助NVIDIA DOCA 2.7增強AI數據中心NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架為開發者提供了豐富的庫、驅動和 API,以便為 NVIDIA BlueField DPU 和 SuperNIC 創建高性能的應用程序和服務。
    的頭像 發表于 05-29 09:22 ?545次閱讀

    聯發科發布天璣AI開發套件,賦能終端生成式AI應用

    聯發科近日推出了全新的天璣AI開發套件,旨在為合作伙伴打造一站式解決方案,以加速終端生成式AI應用的開發。這款
    的頭像 發表于 05-10 11:19 ?634次閱讀

    家居智能化,推動AI加速器的發展

    提高了系統的運算能力和數據處理能力,還為用戶帶來了更加智能化、個性化的生活體驗。 ? AI 加速器的發展 ? 在人工智能和機器學習任務變得日益復雜和密集之前,傳統的CPU和GPU已經足以處理這些任務。然而,隨著深度學習模型的出現
    的頭像 發表于 02-23 00:18 ?4686次閱讀
    主站蜘蛛池模板: 免费视频爰爱太爽了 | 好男人www社区影视在线 | 欧美午夜影视 | 日本一区二区视频在线观看 | 日本口工禁漫画无遮挡全彩 | 特级毛片免费视频观看 | 美女免费黄 | 午夜爱爱毛片xxxx视频免费看 | 三级视频网站在线观看 | 四虎在线免费视频 | 色婷婷一区二区三区四区成人 | 成人午夜影院在线观看 | 永久在线观看www免费视频 | 欧美性野久久久久久久久 | 乱小说录目伦800 | 天天操狠狠操夜夜操 | 开心丁香婷婷深爱五月 | 激情欧美一区二区三区中文字幕 | 丁香婷婷社区 | 亚洲国产精品综合久久2007 | 国产a三级三级三级 | 国产在线a不卡免费视频 | 久久青草91线频免费观看 | 久久成人性色生活片 | 视频一区 中文字幕 | 免费恐怖片 | a毛片免费观看完整 | 手机看片精品国产福利盒子 | 日本一区二区三区欧美在线观看 | 欧美a色爱欧美综合v | 国产精品虐乳在线播放 | 福利片第一页 | 色女人综合| 一级特黄性生活大片免费观看 | 婷婷天堂| 激情网站网址 | 国产h视频在线观看网站免费 | 黄网站免费大全 | 亚洲国产精品丝袜在线观看 | 亚色国产| 欧美色综合网站 |