在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何使用多個DPU實現云級架構

星星科技指導員 ? 來源:NVIDIA ? 作者:Kevin Deierling ? 2022-04-19 15:58 ? 次閱讀

區別SmartNIC 與數據處理器(DPU) 的依據是它的功能,而不是形態。對稱為 SmartNICs 的一類數據中心智能網卡來說,它需要支持硬件傳輸和用于虛擬交換機加速的可編程數據路徑。這些功能是必要的,但不足以使 其 成為 DPU 。一個真正的 DPU 還必須包括一個易于擴展的、 C語言編程的 Linux 環境,使數據中心架構師能夠虛擬化云中的所有資源,并使它們看起來像本地資源。為了更好地理解為什么需要這樣,讓我們討論一下-創建 DPU 的原因。

為什么世界需要 DPU

世界需要 DPU 的一個最重要原因是,目前的應用程序和數據中心的設計讓 CPU 內核花費了太多的開銷來支持網絡功能。隨著網絡速度的提高(現在每條鏈路的速度高達 200gb / s ), CPU 使用了太多寶貴的內核來進行網絡流量的分類、跟蹤和控制。這些昂貴的 CPU 內核是為通用應用程序處理而設計的,最不值得的就是將它們用于網絡數據包的查找和管理。畢竟,用CPU內核來分析數據并得到結果才是它們真正的價值所在。

計算虛擬化的引入使這種情況變得更糟,因為無論是在同一臺服務器上運行的VM 或容器之間, 還是和其他的計算服務器或存儲服務器之間,都需要更多的流量。軟件定義存儲( SDS )、超聚合基礎設施( HCI )和大數據等的應用程序會增加服務器之間的東西向的通信流量,另外, RDMA 也通常被用來加速服務器之間的數據傳輸,這使得服務器對網絡基礎功能的處理要求更高。

隨著通信量的增加和 VXLAN 、 NVGRE 或 GENEVE 等覆蓋網絡的使用,公共云和私有云越來越流行。但其需求的多層封裝也進一步增加了網絡的復雜性。軟件定義的網絡( SDN )帶來了額外的數據包控制和處理的需求,這讓 CPU 花費珍貴的內核來處理openvswitch ( OVS )等更多工作。

DPU 可以比標準 CPU 更快、更高效、更低的成本處理所有這些虛擬化的功能( SR-IOV 、 RDMA 、覆蓋網絡流量封裝、 OVS 卸載)。

不可忽視的安全隔離

有時,出于安全原因,您需要將網絡與 CPU 隔離開來。網絡是黑客攻擊或惡意軟件入侵最有可能的載體,但也是你第一個發現或阻止黑客攻擊的地方。它同時也是最有可能實現在線加密的地方。

DPU 作為特殊的 網卡 ,是檢查網絡流量、阻止攻擊和加密傳輸的首選,最簡單有效,既有性能優勢,又有安全優勢,因為它消除了將所有傳入和傳出的數據讓CPU處理 并通過 PCIe 總線的頻繁需要。它通過與主機CPU 分開運行來提供安全隔離。如果主機CPU 受損, DPU 仍然可以檢測或阻止惡意活動。 DPU 可以在不立即涉及 CPU 的情況下檢測或阻止攻擊。

虛擬化存儲和云

DPU 的一個較新用例是虛擬化軟件定義的存儲、超聚合基礎設施和其他云資源。在虛擬化需求爆發之前,大多數服務器只運行本地存儲,這并不總是高效的,但卻很簡單易行。每個操作系統、應用程序和 hypervisor 都知道如何使用本地存儲。

然后是網絡存儲的興起: SAN 、 NAS ,以及最近出現的 NVMe of Fabrics(NVMe-oF)。但是,并不是每個應用程序都是原生的并可感知 SAN。另外,一些操作系統和 hypervisor ,比如 Windows 和 VMware ,都還沒有考慮到 NVMe-oF 。 DPU 可以支持虛擬化網絡存儲,即可以更高效也更易于管理,讓虛擬化網絡存儲看起來就像本地存儲,非常易于應用程序使用。一個 DPU 甚至可以虛擬化 GPU或其他神經網絡處理器,這樣任何服務器在需要時都可以通過網絡訪問任意數量的 GPU。

類似的DPU優勢也適用于軟件定義的存儲和超聚合基礎架構。兩種架構傳統上都使用管理層軟件(通常作為 VM 或 hypervisor的一部分來運行)來虛擬化和抽象本地存儲和網絡,以使其可供集群中的其他服務器或客戶端使用。這對于服務器的快速部署,及共享存儲資源帶來了極大的便利。然而,管理層和虛擬化占用了許多本應運行應用程序的 CPU 資源。更糟糕的是,網絡帶寬越大,存儲速度越快,需要損耗的CPU 的資源就越多。

這也是智能 DPU 創造效率的地方。首先,它卸載并幫助虛擬化網絡。它們加速了私有云和公共云,這就是為什么它們有時被稱為 CloudNICs 。它們可以卸載網絡和大部分甚至全部的存儲虛擬化。 DPU 還可以減輕 SDS 和 HCI 的各種功能,如壓縮、加密、重復數據消除、 RAID 、報告等。這一切都是為了把更昂貴的 CPU 內核送回它們最擅長的領域:運行應用程序。

圖 1 。 DPU 是一種可編程的、專用的電子電路板,具有數據中心計算數據處理的硬件加速功能

必須有硬件加速

在介紹了主要的 DPU 用例之后,您應該已經清楚何時何地使用DPU會帶來最大的好處:加速和卸載網絡流量,虛擬化存儲資源,通過網絡共享 GPU, 以及支持 RDMA 和執行加解密。

那么 最優的DPU 需要具備什么?必須有硬件加速。 硬件加速提供了最好的性能和效率,這也意味著用更少的開銷進行更多的卸載。為某些功能提供專用硬件的能力讓采用DPU 的機會大大增加。

必須可編程

為了獲得最佳性能,大多數加速功能必須在硬件上運行。為了獲得最大的靈活性,這些功能的控制和編程必須在軟件中運行。

在 DPU 上有許多功能可以編程,通常,特定的卸載方法、加密算法和傳輸機制不會有太大變化,但是路由規則、流表、加密的密鑰和網絡地址會一直會變化。前者是數據平面,后者是控制平面。數據平面規則和算法經過標準化后,可以被固化到芯片中。但控制平面規則和要求變化太快,無法固化,但可以在 FPGA 上運行(偶爾修改,但很困難),也可以在 支持C語言編程的 Linux 環境中運行(容易且可以經常修改)。

表 1 。 DPU 功能指南

在 DPU 上需要多少編程?

您可以選擇在DPU 上有多少功能要由運行程序完成,也就是說,處理數據包的數據平面由DPU處理 (硬件加速或/和 開發的程序),同時, 用于設置和管理規則的控制平面,可以由用戶決定是由DPU來全權處理,還是由位于其他地方的處理器,如 CPU來處理 。

例如,使用 Open vSwitch ,包交換可以在軟件或硬件中完成,而控制平面則可以在 CPU 或 DPU 上運行。如果是常規的基礎網卡,所有的交換和控制都必須由 CPU 上的軟件完成。 使用 SmartNIC 時,交換在網卡的 ASIC 上運行,但控制仍必須在 CPU 上完成。 只有在真正的 DPU 中,交換是由DPU卡上的 ASIC完成,而控制平面也是在DPU包含的 Arm 內核上運行。

圖 2 。 ConnectX-5 SmartNIC 卸載 OVS 切換到 NIC 硬件

DPU 和 SmartNIC 哪一個最好?

為了在數據中心充分實現應用程序的效率,傳輸卸載、可編程的數據平面以及用于虛擬交換的硬件卸載都是至關重要的功能。根據定義,支持這些功能是 SmartNIC 的重要部分,。但只是 DPU 的最基本要求之一, 并不能將 SmartNIC 提升到 DPU 的級別。

客戶經常告訴我們,他們必須有 DPU,因為他們需要可編程的虛擬交換硬件加速支持。這主要是某些供應商的誤導。如果某個供應商只能提供昂貴的、幾乎無法編程的產品,他會告訴客戶,“ DPU ”是實現這一目標的唯一方法。對我們來說,這種情況只需要我們的 ConnectX 系列的 SmartNIC 。

我覺得要將 SmartNIC 提升到 DPU 的高度,還需要支持更多的功能,比如能夠運行控制平面,以及在 Linux 環境下提供 C 語言編程。我們很自豪地提供 BlueField DPU 來支持所有這些,它包括 ConnectX 的所有智能 網卡 功能,以及 4 到 16 個 64 位的 Arm 內核,當然,所有這些內核都運行 Linux ,并且易于編程。

在計劃下一個基礎架構的構建或更新時,請記住以下要點:

DPU 在卸載網絡功能和虛擬化存儲、網絡和 GPU 等資源方面越來越有用

SmartNIC 可以在硬件中加速數據平面任務,但必須依靠host CPU來運行控制平面

控制平面軟件和其他管理軟件可以在常規 CPU 或 DPU 上運行。

NVIDIA 提供業界最佳的SmartNICs ( ConnectX )、 FPGA NIC ( Innova )和完全可編程并支持數據平面及控制平面 DPU s ( BlueField 可編程 DPU )。

關于作者

Kevin Deierling 從 2013 年 3 月開始擔任 Mellanox 的營銷副總裁。此前,他曾擔任 Genia Technologies 的技術副總裁、 Silver Spring Networks 的首席架構師,并在 Spans Logic 負責營銷和業務開發

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10905

    瀏覽量

    213033
  • Linux
    +關注

    關注

    87

    文章

    11345

    瀏覽量

    210415
  • 數據中心
    +關注

    關注

    16

    文章

    4860

    瀏覽量

    72386
收藏 人收藏

    評論

    相關推薦

    HPC計算的技術架構

    HPC計算結合了HPC的強大計算能力和計算的彈性、可擴展性,為用戶提供了按需獲取高性能計算資源的便利。下面,AI部落小編帶您了解HPC計算的技術架構
    的頭像 發表于 02-05 14:51 ?58次閱讀

    FE1.1S的國產替代芯片DPU1.1S 高性能、低功耗4口高速USB2.0HUB控制器芯片 USB拓展塢等應用之選

    三種模式。DPU1.1S采用狀態機單事務處理架構,而非單片機架構多個事務緩沖區,這樣減小了芯片的系統響應時間,用最少的硬件資源實現了USB
    發表于 01-24 12:16

    利用NVIDIA DPF引領DPU加速計算的未來

    越來越多的企業開始采用加速計算,從而滿足生成式 AI、5G 電信和主權的需求。NVIDIA 推出了 DOCA 平臺框架(DPF),該框架提供了基礎構建模塊來釋放 NVIDIA BlueField
    的頭像 發表于 01-24 09:29 ?214次閱讀
    利用NVIDIA DPF引領<b class='flag-5'>DPU</b>加速<b class='flag-5'>云</b>計算的未來

    中科馭數憑借在DPU芯片領域的積累被認定為北京市知識產權優勢單位

    。 作為DPU新型算力基礎設施領軍企業,中科馭數一直致力于推動DPU領域的技術創新和最佳實踐,并將知識產權視為推動企業發展的重要力量之一。以DPU軟硬件為核心,中科馭數技術布局涵蓋了從芯片底層
    的頭像 發表于 12-31 18:49 ?391次閱讀
    中科馭數憑借在<b class='flag-5'>DPU</b>芯片領域的積累被認定為北京市知識產權優勢單位

    寶藏微服務架構工具合集

    寶藏熱門微服務架構工具包含Spring Boot、Eclipse Vert.X、Kubernetes、Tyk、RabbitMQ、Apache Kafka等。其中,Spring Boot簡化了微服
    的頭像 發表于 12-21 16:33 ?231次閱讀

    微服務架構與容器的關系與區別

    微服務架構與容器密切相關又有所區別。微服務將大型應用拆分為小型、獨立的服務,而容器基于容器技術,為微服務提供構建、發布和運行的平臺。區別在于,微服務是架構風格,注重服務拆分與部署;
    的頭像 發表于 10-21 17:28 ?283次閱讀

    【「大模型時代的基礎架構」閱讀體驗】+ 未知領域的感受

    算法的引擎GPU、GPU硬件架構剖析、GPU服務器的設計與實現、GPU集群的網絡設計與實現、GPU板卡算力調度技術、基于平臺的GPU集群
    發表于 10-08 10:40

    中科馭數分析DPU在云原生網絡與智算網絡中的實際應用

    的探索與實踐”專題論壇,業內DPU專家們將討論焦點鎖定在了DPU在云原生網絡與智算網絡中的實際應用,深入探討了如何利用DPU技術解決計算系統問題,進一步推動了
    的頭像 發表于 08-02 11:21 ?781次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術白皮書

    ,在其上掛載了各種計算、存儲資源的節點,對于系統的資源彈性、運行效率、性能都大有益處。但是這種使用方式的變化,需要對現有計算架構進行一定程度的變革,才能充分發揮出 DPU的優勢。
    發表于 07-24 15:32

    華為昇騰AI服務可適配100多個大模型

    在近日舉辦的華為開發者大會2024上,華為常務董事、華為CEO張平安向全球開發者們宣布了一項重大進展——華為昇騰AI服務已全面適配行業主流的100多個大模型。這一創新舉措不僅展示
    的頭像 發表于 06-24 10:49 ?854次閱讀

    芯片軟件全上陣 DPU“全家桶”來了!中科馭數成功舉辦2024產品發布會

    業務痛點精心打造的全新DPU卡產品,以及揭秘如何通過基于DPU的馭高性能底座釋放云端算力,為參會者呈現一場從硬件到軟件,從技術到應用的全方位體驗。 發布會現場,清華大學教授中國工程
    的頭像 發表于 06-23 11:09 ?941次閱讀
    芯片軟件全上陣 <b class='flag-5'>DPU</b>“全家桶”來了!中科馭數成功舉辦2024產品發布會

    芯啟源DPU賦能綠色數據中心,助力實現雙碳戰略

    近日,深圳市計算機行業協會在南山區前海自貿區的博大數據深圳前海智算中心成功舉辦了“新質生產力產品與AIPC應用與挑戰技術交流會”。芯啟源助理副總裁顧宏波受邀分享《DPU賦能綠色數據中心,助力實現雙碳戰略》主題演講,深度闡釋芯啟源DPU
    的頭像 發表于 06-13 09:53 ?653次閱讀

    “Spark+Hive”在DPU環境下的性能測評 | OLAP數據庫引擎選型白皮書(24版)DPU部分節選

    在奇點2024年版《OLAP數據庫引擎選型白皮書》中,中科馭數聯合奇點針對Spark+Hive這類大數據計算場景下的主力引擎,測評DPU環境下對比CPU環境下的性能提升效果。特此節選該章節內容,與大家共享。
    的頭像 發表于 05-30 16:09 ?583次閱讀
    “Spark+Hive”在<b class='flag-5'>DPU</b>環境下的性能測評 | OLAP數據庫引擎選型白皮書(24版)<b class='flag-5'>DPU</b>部分節選

    明天線上見!DPU構建高性能算力底座——DPU技術開放日最新議程公布!

    技術在不同行業中的應用解決方案有哪些?能帶來怎樣的業務效果? 3月29日本周五,中科馭數集結產品大咖及解決方案專家團,誠邀您參加以“DPU構建高性能算力底座”為主題的線上DPU技術開放日! 他們將逐一與您分享中科馭數系列
    的頭像 發表于 04-03 18:12 ?1039次閱讀

    星云智聯為金山打造裸金屬服務器DPU解決方案,助力高端用戶實現更強大更高效的上體驗

    國內領先的DPU和智能網卡芯片與解決方案提供商星云智聯近日宣布,與中國知名服務商金山共同開發了基于星云智聯NebulaMatrix DPU解決方案的金山
    的頭像 發表于 02-20 09:06 ?686次閱讀
    主站蜘蛛池模板: 日本高清视频网站www | 成年大片免费视频播放手机不卡 | 精品一区二区三区免费毛片爱 | 成年女人毛片免费视频 | 亚洲一区二区免费看 | 国产伦精品一区二区三区在线观看 | 在线操| 日本不卡视频一区二区 | 欧美两性网 | 福利色视频 | 91大神亚洲影视在线 | 天天色天天草 | 乱操视频| 五月天婷婷色图 | 在线视频一二三区 | 黄色日本视频网站 | 男男全肉高h腐文 | 欧美黄色录像视频 | 四虎国产精品永久在线看 | 一本大道一卡二卡四卡 | 亚洲视频在线一区二区三区 | 男人的天堂色偷偷 | 久久的色偷偷 | 亚洲乱码尤物193yw在线播放 | 中文字幕成人乱码在线电影 | 在线天堂bt中文www在线 | 日韩欧美卡通动漫在线观看 | 久久综合精品视频 | 成人夜色香网站在线观看 | 亚洲成av人片在线观看无码 | 色爽爽爽爽爽爽爽爽 | 欧美性色黄在线视 | 在线观看精品视频看看播放 | 亚洲色图日韩精品 | 日韩美aaa特级毛片 日韩美a一级毛片 | 天天艹天天 | 国产国语videosex另类 | 亚洲综合色就色手机在线观看 | 影音先锋色天使 | 日本黄色小视频网站 | 国产精品1区2区3区在线播放 |