在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA引入云原生超級計算架構

NVIDIA英偉達 ? 來源:NVIDIA英偉達 ? 作者:NVIDIA英偉達 ? 2021-11-21 10:43 ? 次閱讀

超級計算機是一項重要的投資,對于研究人員和科學家來說,它們是必不可少的寶貴工具。為了有效和安全地共享這些數據中心的計算能力, NVIDIA 引入了云原生超級計算架構。它結合了裸機性能、多租戶和性能隔離統一為超級計算服務。

Magnum IO 是數據中心的 I / O 子系統,它引入了新的增強功能,以加速多租戶數據中心的 I / O 和通信。我們將這些增強功能稱為 Magnum IO ,用于云原生超級計算架構。

它由 NVIDIA Quantum-2 InfiniBand 平臺提供,該平臺包括 NVIDIA Quantum-2 交換機系列、BlueField-3 DPU 和 ConnectX-7 網卡。

這種進化環境的挑戰是什么?

基于 GPU 的高性能計算已經通過機器學習模擬計算大幅改變了科學和實驗。在GPU 上運行的這些深度學習框架和模擬工具可能會消耗 PB 級的數據,并在整個數據中心內造成擁塞和瓶頸。更復雜的是,這些應用程序的多個實例在共享的超級計算設施上常常同時運行并互相影響,因而造成運行性能的抖動,從而導致無法預測的運行時間。

面向云原生超級計算體系結構設計的 Magnum IO 帶來新的增強功能,以減輕最終用戶在多租戶環境中運行應用帶來的性能負面影響。它提供確定性的性能,就好像它們的應用程序是獨占網絡運行。

第三代 NVIDIA SHARP

(可擴展分層聚合和規約協議)

通過將集合操作從主機 CPU 卸載到交換機網絡,SHARP 技術有效消除了端點之間多次發送數據的需求,從而提高了 MPI 操作的性能。這種方法大幅減少了到達聚合節點的網絡流量,并顯著減少了 MPI 操作時間。

在網絡中實現集合通信算法還有其他好處,例如釋放寶貴的 CPU 資源用于計算,而不是使用它們來處理通信。

最近發布的 NVIDIA Quantum-2 InfiniBand 交換機為大型數據聚合提供了強大的可擴展性。由于每個交換機支持幾乎無限的小消息聚合和多個大消息聚合流,在共享系統上運行多租戶應用程序可以充分利用 SHARP 的優勢。

性能隔離

多租戶超級計算實現在共享資源上運行很多用戶的應用程序,可能造成物理服務器、存儲、網絡以及I / O流量模型的復用 。

NVIDIA Quantum InfiniBand 一直以來支持擁塞控制管理,當檢測到網絡擁塞時在源端實施控制以緩解擁塞。但在多租戶場景,用戶應用可能無意識地與相鄰用戶流量產生干擾,因此需要隔離以提供可預期的性能級別。

借助最新的 NVIDIA Quantum-2 InfiniBand 平臺和 Magnum IO ,創新的主動監控和擁塞管理提供了良好的流量隔離。這幾乎完全消除了性能抖動,并確保了預期的性能,就像應用程序運行在專用系統上一樣。

專為安全、多租戶、裸機性能而打造

NVIDIA Cloud-Native Supercomputing 體系結構使用 Magnum IO 在多租戶環境中實現最高的性能、安全性和編排。

此外,實現這種架構轉換的另一個核心元素是數據處理器( DPU ),也即 BlueField 。作為一個完全集成的片上數據中心平臺, BlueField 從主機處理器卸載和管理數據中心基礎設施,實現超級計算機的安全和編排。

它還能夠提供額外的通信框架卸載,可達到 100% 的通信計算重疊,實現 MPI _ Alltoall 44% 的性能提升和 MPI _ iAllgather 36% 的性能提升。當結合最新的 NVIDIA Quantum-2 平臺時,該體系結構在安全的多節點體系結構中展示性能隔離實現裸金屬性能。

Magnum IO 消除了 I / O 瓶頸,拓展了硬件級加速引擎、網絡計算和擁塞控制等最新技術,成為支持當今高性能裸金屬多租戶數據中心的必備利器。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5080

    瀏覽量

    103826
  • 云計算
    +關注

    關注

    39

    文章

    7857

    瀏覽量

    137945
  • 人工智能
    +關注

    關注

    1796

    文章

    47791

    瀏覽量

    240559

原文標題:使用 Magnum IO 加速云原生超級計算

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    云原生AI服務怎么樣

    云原生AI服務,是指采用云原生的原則和技術來構建、部署和管理人工智能應用及工作負載的方法和模式。那么,云原生AI服務怎么樣呢?下面,AI部落小編帶您了解。
    的頭像 發表于 01-23 10:47 ?129次閱讀

    聯發科與NVIDIA合作 為NVIDIA 個人AI超級計算機設計NVIDIA GB10超級芯片

    聯發科近日宣布與NVIDIA合作設計NVIDIA GB10 Grace Blackwell超級芯片,將應用于NVIDIA 的個人AI超級
    的頭像 發表于 01-07 16:26 ?202次閱讀

    云原生LLMOps平臺作用

    云原生LLMOps平臺是一種基于云計算基礎設施和開發工具,專門用于構建、部署和管理大型語言模型(LLM)全生命周期的平臺。以下,是對云原生LLMOps平臺作用的梳理,由AI部落小編整理。
    的頭像 發表于 01-06 10:21 ?121次閱讀

    如何選擇云原生機器學習平臺

    當今,云原生機器學習平臺因其彈性擴展、高效部署、低成本運營等優勢,逐漸成為企業構建和部署機器學習應用的首選。然而,市場上的云原生機器學習平臺種類繁多,功能各異,如何選擇云原生機器學習平臺呢?下面,AI部落小編帶您探討。
    的頭像 發表于 12-25 11:54 ?168次閱讀

    什么是云原生MLOps平臺

    云原生MLOps平臺,是指利用云計算的基礎設施和開發工具,來構建、部署和管理機器學習模型的全生命周期的平臺。以下,是對云原生MLOps平臺的介紹,由AI部落小編整理。
    的頭像 發表于 12-12 13:13 ?174次閱讀

    k8s微服務架構就是云原生嗎?兩者是什么關系

    k8s微服務架構就是云原生嗎?K8s微服務架構并不等同于云原生,但兩者之間存在密切的聯系。Kubernetes在云原生
    的頭像 發表于 11-25 09:39 ?199次閱讀

    NVIDIA助力丹麥發布首臺AI超級計算

    這臺丹麥最大的超級計算機由該國政府與丹麥 AI 創新中心共同建設,是一臺 NVIDIA DGX SuperPOD 超級計算機。
    的頭像 發表于 10-27 09:42 ?520次閱讀

    云原生和非云原生哪個好?六大區別詳細對比

    云原生和非云原生各有優劣,具體選擇取決于應用場景。云原生利用云計算的優勢,通過微服務、容器化和自動化運維等技術,提高了應用的可擴展性、更新速度和成本效益。非
    的頭像 發表于 09-13 09:53 ?472次閱讀

    基于Arm架構的Azure虛擬機助力云原生應用開發

    子系統 (CSS) 所構建的解決方案專為運行現代通用云工作負載而設計,并且通過優化,為云原生產品提供更高的效率和性能。
    的頭像 發表于 09-05 15:54 ?1881次閱讀

    京東云原生安全產品重磅發布

    “安全產品那么多,我怎么知道防住了?”“大家都說自己是云原生的,我看都是換湯不換藥”在與客戶溝通云原生安全方案的時候,經常會遇到這樣的吐槽。越來越的客戶已經開始了云原生化的技術架構改造
    的頭像 發表于 07-26 10:36 ?549次閱讀
    京東<b class='flag-5'>云原生</b>安全產品重磅發布

    從積木式到裝配式云原生安全

    云原生安全風險 隨著云原生架構的快速發展,核心能力逐漸穩定,安全問題日趨緊急。在云原生安全領域不但有新技術帶來的新風險,傳統IT基礎設施下的安全威脅也依然存在。要想做好
    的頭像 發表于 07-26 10:35 ?356次閱讀
    從積木式到裝配式<b class='flag-5'>云原生</b>安全

    基于DPU與SmartNic的云原生SDN解決方案

    隨著云計算,大數據和人工智能等技術的蓬勃發展,數據中心面臨著前所未有的數據洪流和計算壓力,這對SDN提出了更高的性能和效率要求。自云原生概念被提出以來,Kubernetes為云原生應用
    的頭像 發表于 07-22 11:44 ?799次閱讀
    基于DPU與SmartNic的<b class='flag-5'>云原生</b>SDN解決方案

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    計算平臺,為處理最復雜的大型模型提供前所未有的計算能力。 GB200 NVL72 的 Blackwell 架構通過引入硬件解壓縮引擎,具備大規模本地解壓縮壓縮數據能力,優化端到端的分析
    發表于 05-13 17:16

    NVIDIA 推出 Blackwell 架構 DGX SuperPOD,適用于萬億參數級的生成式 AI 超級計算

    ——? NVIDIA 于今日發布新一代 AI 超級計算機 —— 搭載 NVIDIA GB200 Grace Blackwell 超級芯片的
    發表于 03-19 10:56 ?485次閱讀
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell <b class='flag-5'>架構</b> DGX SuperPOD,適用于萬億參數級的生成式 AI <b class='flag-5'>超級</b><b class='flag-5'>計算</b>

    云原生是大模型“降本增效”的解藥嗎?

    云原生AI正當時
    的頭像 發表于 02-20 09:31 ?441次閱讀
    主站蜘蛛池模板: 日本一区二区高清免费不卡 | 久草视频在线免费看 | 狠狠色婷婷狠狠狠亚洲综合 | 国产美女主播在线观看 | www.色在线观看 | 伊人伊成久久人综合网777 | 俺来也俺去啦久久综合网 | 国产一区高清 | 欧洲乱码专区一区二区三区四区 | 人人爽人人干 | 美女拍拍拍爽爽爽爽爽爽 | 久久青草国产精品一区 | 亚洲伊人tv综合网色 | 黄色视屏在线免费观看 | 欧美性色xo影院在线观看 | 国产乱辈通伦影片在线播放亚洲 | 国产一区二区三区影院 | eeuss影院www影院夜场 | 性久久久久久久久 | 萌白酱白丝护士服喷水铁牛tv | 好紧好爽水真多18 | 性网站在线观看 | 免费一级特黄 欧美大片 | 色视频免费在线 | 在线观看免费视频国产 | 国产精品夜夜春夜夜 | 又粗又大又爽又色又过瘾视频 | 亚洲五月婷婷 | 美女无遮挡拍拍拍免费视频 | 激情五月婷婷小说 | 黄色美女网站在线观看 | 美女被啪到哭网站在线观看 | 大尺度视频在线观看 | 一区二区三区四区在线不卡高清 | 福利天堂 | 国产精品国产三级国产普通话对白 | 免费网站日本永久免费观看 | 怡红院色视频在线 | 国产香蕉视频在线观看 | 中国高清性色生活片 | 狠狠操狠狠干 |