在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何使用多個(gè)DPU實(shí)現(xiàn)云級架構(gòu)

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:Kevin Deierling ? 2022-04-19 15:58 ? 次閱讀

區(qū)別SmartNIC 與數(shù)據(jù)處理器(DPU) 的依據(jù)是它的功能,而不是形態(tài)。對稱為 SmartNICs 的一類數(shù)據(jù)中心智能網(wǎng)卡來說,它需要支持硬件傳輸和用于虛擬交換機(jī)加速的可編程數(shù)據(jù)路徑。這些功能是必要的,但不足以使 其 成為 DPU 。一個(gè)真正的 DPU 還必須包括一個(gè)易于擴(kuò)展的、 C語言編程的 Linux 環(huán)境,使數(shù)據(jù)中心架構(gòu)師能夠虛擬化云中的所有資源,并使它們看起來像本地資源。為了更好地理解為什么需要這樣,讓我們討論一下-創(chuàng)建 DPU 的原因。

為什么世界需要 DPU

世界需要 DPU 的一個(gè)最重要原因是,目前的應(yīng)用程序和數(shù)據(jù)中心的設(shè)計(jì)讓 CPU 內(nèi)核花費(fèi)了太多的開銷來支持網(wǎng)絡(luò)功能。隨著網(wǎng)絡(luò)速度的提高(現(xiàn)在每條鏈路的速度高達(dá) 200gb / s ), CPU 使用了太多寶貴的內(nèi)核來進(jìn)行網(wǎng)絡(luò)流量的分類、跟蹤和控制。這些昂貴的 CPU 內(nèi)核是為通用應(yīng)用程序處理而設(shè)計(jì)的,最不值得的就是將它們用于網(wǎng)絡(luò)數(shù)據(jù)包的查找和管理。畢竟,用CPU內(nèi)核來分析數(shù)據(jù)并得到結(jié)果才是它們真正的價(jià)值所在。

計(jì)算虛擬化的引入使這種情況變得更糟,因?yàn)闊o論是在同一臺服務(wù)器上運(yùn)行的VM 或容器之間, 還是和其他的計(jì)算服務(wù)器或存儲服務(wù)器之間,都需要更多的流量。軟件定義存儲( SDS )、超聚合基礎(chǔ)設(shè)施( HCI )和大數(shù)據(jù)等的應(yīng)用程序會增加服務(wù)器之間的東西向的通信流量,另外, RDMA 也通常被用來加速服務(wù)器之間的數(shù)據(jù)傳輸,這使得服務(wù)器對網(wǎng)絡(luò)基礎(chǔ)功能的處理要求更高。

隨著通信量的增加和 VXLAN 、 NVGRE 或 GENEVE 等覆蓋網(wǎng)絡(luò)的使用,公共云和私有云越來越流行。但其需求的多層封裝也進(jìn)一步增加了網(wǎng)絡(luò)的復(fù)雜性。軟件定義的網(wǎng)絡(luò)( SDN )帶來了額外的數(shù)據(jù)包控制和處理的需求,這讓 CPU 花費(fèi)珍貴的內(nèi)核來處理openvswitch ( OVS )等更多工作。

DPU 可以比標(biāo)準(zhǔn) CPU 更快、更高效、更低的成本處理所有這些虛擬化的功能( SR-IOV 、 RDMA 、覆蓋網(wǎng)絡(luò)流量封裝、 OVS 卸載)。

不可忽視的安全隔離

有時(shí),出于安全原因,您需要將網(wǎng)絡(luò)與 CPU 隔離開來。網(wǎng)絡(luò)是黑客攻擊或惡意軟件入侵最有可能的載體,但也是你第一個(gè)發(fā)現(xiàn)或阻止黑客攻擊的地方。它同時(shí)也是最有可能實(shí)現(xiàn)在線加密的地方。

DPU 作為特殊的 網(wǎng)卡 ,是檢查網(wǎng)絡(luò)流量、阻止攻擊和加密傳輸?shù)氖走x,最簡單有效,既有性能優(yōu)勢,又有安全優(yōu)勢,因?yàn)樗藢⑺袀魅牒蛡鞒龅臄?shù)據(jù)讓CPU處理 并通過 PCIe 總線的頻繁需要。它通過與主機(jī)CPU 分開運(yùn)行來提供安全隔離。如果主機(jī)CPU 受損, DPU 仍然可以檢測或阻止惡意活動(dòng)。 DPU 可以在不立即涉及 CPU 的情況下檢測或阻止攻擊。

虛擬化存儲和云

DPU 的一個(gè)較新用例是虛擬化軟件定義的存儲、超聚合基礎(chǔ)設(shè)施和其他云資源。在虛擬化需求爆發(fā)之前,大多數(shù)服務(wù)器只運(yùn)行本地存儲,這并不總是高效的,但卻很簡單易行。每個(gè)操作系統(tǒng)、應(yīng)用程序和 hypervisor 都知道如何使用本地存儲。

然后是網(wǎng)絡(luò)存儲的興起: SAN 、 NAS ,以及最近出現(xiàn)的 NVMe of Fabrics(NVMe-oF)。但是,并不是每個(gè)應(yīng)用程序都是原生的并可感知 SAN。另外,一些操作系統(tǒng)和 hypervisor ,比如 Windows 和 VMware ,都還沒有考慮到 NVMe-oF 。 DPU 可以支持虛擬化網(wǎng)絡(luò)存儲,即可以更高效也更易于管理,讓虛擬化網(wǎng)絡(luò)存儲看起來就像本地存儲,非常易于應(yīng)用程序使用。一個(gè) DPU 甚至可以虛擬化 GPU或其他神經(jīng)網(wǎng)絡(luò)處理器,這樣任何服務(wù)器在需要時(shí)都可以通過網(wǎng)絡(luò)訪問任意數(shù)量的 GPU。

類似的DPU優(yōu)勢也適用于軟件定義的存儲和超聚合基礎(chǔ)架構(gòu)。兩種架構(gòu)傳統(tǒng)上都使用管理層軟件(通常作為 VM 或 hypervisor的一部分來運(yùn)行)來虛擬化和抽象本地存儲和網(wǎng)絡(luò),以使其可供集群中的其他服務(wù)器或客戶端使用。這對于服務(wù)器的快速部署,及共享存儲資源帶來了極大的便利。然而,管理層和虛擬化占用了許多本應(yīng)運(yùn)行應(yīng)用程序的 CPU 資源。更糟糕的是,網(wǎng)絡(luò)帶寬越大,存儲速度越快,需要損耗的CPU 的資源就越多。

這也是智能 DPU 創(chuàng)造效率的地方。首先,它卸載并幫助虛擬化網(wǎng)絡(luò)。它們加速了私有云和公共云,這就是為什么它們有時(shí)被稱為 CloudNICs 。它們可以卸載網(wǎng)絡(luò)和大部分甚至全部的存儲虛擬化。 DPU 還可以減輕 SDS 和 HCI 的各種功能,如壓縮、加密、重復(fù)數(shù)據(jù)消除、 RAID 、報(bào)告等。這一切都是為了把更昂貴的 CPU 內(nèi)核送回它們最擅長的領(lǐng)域:運(yùn)行應(yīng)用程序。

圖 1 。 DPU 是一種可編程的、專用的電子電路板,具有數(shù)據(jù)中心計(jì)算數(shù)據(jù)處理的硬件加速功能

必須有硬件加速

在介紹了主要的 DPU 用例之后,您應(yīng)該已經(jīng)清楚何時(shí)何地使用DPU會帶來最大的好處:加速和卸載網(wǎng)絡(luò)流量,虛擬化存儲資源,通過網(wǎng)絡(luò)共享 GPU, 以及支持 RDMA 和執(zhí)行加解密。

那么 最優(yōu)的DPU 需要具備什么?必須有硬件加速。 硬件加速提供了最好的性能和效率,這也意味著用更少的開銷進(jìn)行更多的卸載。為某些功能提供專用硬件的能力讓采用DPU 的機(jī)會大大增加。

必須可編程

為了獲得最佳性能,大多數(shù)加速功能必須在硬件上運(yùn)行。為了獲得最大的靈活性,這些功能的控制和編程必須在軟件中運(yùn)行。

在 DPU 上有許多功能可以編程,通常,特定的卸載方法、加密算法和傳輸機(jī)制不會有太大變化,但是路由規(guī)則、流表、加密的密鑰和網(wǎng)絡(luò)地址會一直會變化。前者是數(shù)據(jù)平面,后者是控制平面。數(shù)據(jù)平面規(guī)則和算法經(jīng)過標(biāo)準(zhǔn)化后,可以被固化到芯片中。但控制平面規(guī)則和要求變化太快,無法固化,但可以在 FPGA 上運(yùn)行(偶爾修改,但很困難),也可以在 支持C語言編程的 Linux 環(huán)境中運(yùn)行(容易且可以經(jīng)常修改)。

表 1 。 DPU 功能指南

在 DPU 上需要多少編程?

您可以選擇在DPU 上有多少功能要由運(yùn)行程序完成,也就是說,處理數(shù)據(jù)包的數(shù)據(jù)平面由DPU處理 (硬件加速或/和 開發(fā)的程序),同時(shí), 用于設(shè)置和管理規(guī)則的控制平面,可以由用戶決定是由DPU來全權(quán)處理,還是由位于其他地方的處理器,如 CPU來處理 。

例如,使用 Open vSwitch ,包交換可以在軟件或硬件中完成,而控制平面則可以在 CPU 或 DPU 上運(yùn)行。如果是常規(guī)的基礎(chǔ)網(wǎng)卡,所有的交換和控制都必須由 CPU 上的軟件完成。 使用 SmartNIC 時(shí),交換在網(wǎng)卡的 ASIC 上運(yùn)行,但控制仍必須在 CPU 上完成。 只有在真正的 DPU 中,交換是由DPU卡上的 ASIC完成,而控制平面也是在DPU包含的 Arm 內(nèi)核上運(yùn)行。

圖 2 。 ConnectX-5 SmartNIC 卸載 OVS 切換到 NIC 硬件

DPU 和 SmartNIC 哪一個(gè)最好?

為了在數(shù)據(jù)中心充分實(shí)現(xiàn)應(yīng)用程序的效率,傳輸卸載、可編程的數(shù)據(jù)平面以及用于虛擬交換的硬件卸載都是至關(guān)重要的功能。根據(jù)定義,支持這些功能是 SmartNIC 的重要部分,。但只是 DPU 的最基本要求之一, 并不能將 SmartNIC 提升到 DPU 的級別。

客戶經(jīng)常告訴我們,他們必須有 DPU,因?yàn)樗麄冃枰删幊痰奶摂M交換硬件加速支持。這主要是某些供應(yīng)商的誤導(dǎo)。如果某個(gè)供應(yīng)商只能提供昂貴的、幾乎無法編程的產(chǎn)品,他會告訴客戶,“ DPU ”是實(shí)現(xiàn)這一目標(biāo)的唯一方法。對我們來說,這種情況只需要我們的 ConnectX 系列的 SmartNIC 。

我覺得要將 SmartNIC 提升到 DPU 的高度,還需要支持更多的功能,比如能夠運(yùn)行控制平面,以及在 Linux 環(huán)境下提供 C 語言編程。我們很自豪地提供 BlueField DPU 來支持所有這些,它包括 ConnectX 的所有智能 網(wǎng)卡 功能,以及 4 到 16 個(gè) 64 位的 Arm 內(nèi)核,當(dāng)然,所有這些內(nèi)核都運(yùn)行 Linux ,并且易于編程。

在計(jì)劃下一個(gè)基礎(chǔ)架構(gòu)的構(gòu)建或更新時(shí),請記住以下要點(diǎn):

DPU 在卸載網(wǎng)絡(luò)功能和虛擬化存儲、網(wǎng)絡(luò)和 GPU 等資源方面越來越有用

SmartNIC 可以在硬件中加速數(shù)據(jù)平面任務(wù),但必須依靠host CPU來運(yùn)行控制平面

控制平面軟件和其他管理軟件可以在常規(guī) CPU 或 DPU 上運(yùn)行。

NVIDIA 提供業(yè)界最佳的SmartNICs ( ConnectX )、 FPGA NIC ( Innova )和完全可編程并支持?jǐn)?shù)據(jù)平面及控制平面 DPU s ( BlueField 可編程 DPU )。

關(guān)于作者

Kevin Deierling 從 2013 年 3 月開始擔(dān)任 Mellanox 的營銷副總裁。此前,他曾擔(dān)任 Genia Technologies 的技術(shù)副總裁、 Silver Spring Networks 的首席架構(gòu)師,并在 Spans Logic 負(fù)責(zé)營銷和業(yè)務(wù)開發(fā)

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11054

    瀏覽量

    216292
  • Linux
    +關(guān)注

    關(guān)注

    87

    文章

    11479

    瀏覽量

    213058
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    5171

    瀏覽量

    73292
收藏 人收藏

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    DPU核心技術(shù)論文再次登陸體系結(jié)構(gòu)領(lǐng)域旗艦期刊《IEEE Transactions on Computers》

    能力,在降低了規(guī)模限制的硬件成本和設(shè)計(jì)周期的同時(shí),又可通過軟件編程實(shí)現(xiàn)不同功能的計(jì)算,具有較高的可擴(kuò)展性和靈活性。中科馭數(shù)DPU芯片基于自研KPU架構(gòu)設(shè)計(jì)。
    的頭像 發(fā)表于 06-11 18:11 ?113次閱讀
    <b class='flag-5'>DPU</b>核心技術(shù)論文再次登陸體系結(jié)構(gòu)領(lǐng)域旗艦期刊《IEEE Transactions on Computers》

    第三屆NVIDIA DPU黑客松開啟報(bào)名

    碰撞的絕佳機(jī)會。本次競賽采用開放式主題,參與者將通過 NVIDIA DOCA 軟件框架構(gòu)建創(chuàng)新的加速應(yīng)用程序,充分挖掘 NVIDIA BlueField DPU 在 AI、網(wǎng)絡(luò)、存儲和安全等領(lǐng)域的強(qiáng)大潛能。
    的頭像 發(fā)表于 05-27 10:16 ?314次閱讀

    多模融合,秒響應(yīng)-翎智能應(yīng)急指揮箱打造全域指揮“移動(dòng)中樞”

    翎智能應(yīng)急指揮終端是一款面向應(yīng)急指揮場景研發(fā)的移動(dòng)化、智能化終端設(shè)備,通過多模態(tài)通信技術(shù)融合、高精度定位、AI智能分析等技術(shù)手段,實(shí)現(xiàn)“多模融合,秒響應(yīng)”的核心能力,成為覆蓋全域場景的應(yīng)急指揮
    的頭像 發(fā)表于 04-29 18:01 ?200次閱讀
    多模融合,秒<b class='flag-5'>級</b>響應(yīng)-<b class='flag-5'>云</b>翎智能應(yīng)急指揮箱打造全域指揮“移動(dòng)中樞”

    EM儲能網(wǎng)關(guān) ZWS智慧儲能應(yīng)用(11) — 一架構(gòu) 主從架構(gòu)

    ZWS智慧儲能針對儲能場景下不同的架構(gòu)體系進(jìn)行了兼容,可以適配用戶面臨的復(fù)雜現(xiàn)場環(huán)境,滿足更深層次的管理和維護(hù)需求。簡介儲能系統(tǒng)包含PCS、BMS、EMS等多個(gè)組件,不同儲能架構(gòu)管理
    的頭像 發(fā)表于 04-17 13:00 ?223次閱讀
    EM儲能網(wǎng)關(guān) ZWS智慧儲能<b class='flag-5'>云</b>應(yīng)用(11) — 一<b class='flag-5'>級</b><b class='flag-5'>架構(gòu)</b> 主從<b class='flag-5'>架構(gòu)</b>

    揭秘計(jì)算架構(gòu)的分層奧秘

    的重要基石。那么,計(jì)算架構(gòu)究竟是如何構(gòu)建的呢?今天,我們帶您揭秘計(jì)算架構(gòu)的分層奧秘——邊緣層、IaaS、PaaS、SaaS。
    的頭像 發(fā)表于 02-26 17:41 ?423次閱讀

    HPC計(jì)算的技術(shù)架構(gòu)

    HPC計(jì)算結(jié)合了HPC的強(qiáng)大計(jì)算能力和計(jì)算的彈性、可擴(kuò)展性,為用戶提供了按需獲取高性能計(jì)算資源的便利。下面,AI部落小編帶您了解HPC計(jì)算的技術(shù)架構(gòu)。
    的頭像 發(fā)表于 02-05 14:51 ?364次閱讀

    FE1.1S的國產(chǎn)替代芯片DPU1.1S 高性能、低功耗4口高速USB2.0HUB控制器芯片 USB拓展塢等應(yīng)用之選

    三種模式。DPU1.1S采用狀態(tài)機(jī)單事務(wù)處理架構(gòu),而非單片機(jī)架構(gòu),多個(gè)事務(wù)緩沖區(qū),這樣減小了芯片的系統(tǒng)響應(yīng)時(shí)間,用最少的硬件資源實(shí)現(xiàn)了USB
    發(fā)表于 01-24 12:16

    利用NVIDIA DPF引領(lǐng)DPU加速計(jì)算的未來

    越來越多的企業(yè)開始采用加速計(jì)算,從而滿足生成式 AI、5G 電信和主權(quán)的需求。NVIDIA 推出了 DOCA 平臺框架(DPF),該框架提供了基礎(chǔ)構(gòu)建模塊來釋放 NVIDIA BlueField
    的頭像 發(fā)表于 01-24 09:29 ?634次閱讀
    利用NVIDIA DPF引領(lǐng)<b class='flag-5'>DPU</b>加速<b class='flag-5'>云</b>計(jì)算的未來

    中科馭數(shù)憑借在DPU芯片領(lǐng)域的積累被認(rèn)定為北京市知識產(chǎn)權(quán)優(yōu)勢單位

    。 作為DPU新型算力基礎(chǔ)設(shè)施領(lǐng)軍企業(yè),中科馭數(shù)一直致力于推動(dòng)DPU領(lǐng)域的技術(shù)創(chuàng)新和最佳實(shí)踐,并將知識產(chǎn)權(quán)視為推動(dòng)企業(yè)發(fā)展的重要力量之一。以DPU軟硬件為核心,中科馭數(shù)技術(shù)布局涵蓋了從芯片底層
    的頭像 發(fā)表于 12-31 18:49 ?720次閱讀
    中科馭數(shù)憑借在<b class='flag-5'>DPU</b>芯片領(lǐng)域的積累被認(rèn)定為北京市知識產(chǎn)權(quán)優(yōu)勢單位

    寶藏微服務(wù)架構(gòu)工具合集

    寶藏熱門微服務(wù)架構(gòu)工具包含Spring Boot、Eclipse Vert.X、Kubernetes、Tyk、RabbitMQ、Apache Kafka等。其中,Spring Boot簡化了微服
    的頭像 發(fā)表于 12-21 16:33 ?579次閱讀

    微服務(wù)架構(gòu)與容器的關(guān)系與區(qū)別

    微服務(wù)架構(gòu)與容器密切相關(guān)又有所區(qū)別。微服務(wù)將大型應(yīng)用拆分為小型、獨(dú)立的服務(wù),而容器基于容器技術(shù),為微服務(wù)提供構(gòu)建、發(fā)布和運(yùn)行的平臺。區(qū)別在于,微服務(wù)是架構(gòu)風(fēng)格,注重服務(wù)拆分與部署;
    的頭像 發(fā)表于 10-21 17:28 ?511次閱讀

    【「大模型時(shí)代的基礎(chǔ)架構(gòu)」閱讀體驗(yàn)】+ 未知領(lǐng)域的感受

    算法的引擎GPU、GPU硬件架構(gòu)剖析、GPU服務(wù)器的設(shè)計(jì)與實(shí)現(xiàn)、GPU集群的網(wǎng)絡(luò)設(shè)計(jì)與實(shí)現(xiàn)、GPU板卡算力調(diào)度技術(shù)、基于平臺的GPU集群
    發(fā)表于 10-08 10:40

    中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用

    的探索與實(shí)踐”專題論壇,業(yè)內(nèi)DPU專家們將討論焦點(diǎn)鎖定在了DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用,深入探討了如何利用DPU技術(shù)解決計(jì)算系統(tǒng)問題,進(jìn)一步推動(dòng)了
    的頭像 發(fā)表于 08-02 11:21 ?1091次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    ,在其上掛載了各種計(jì)算、存儲資源的節(jié)點(diǎn),對于系統(tǒng)的資源彈性、運(yùn)行效率、性能都大有益處。但是這種使用方式的變化,需要對現(xiàn)有計(jì)算架構(gòu)進(jìn)行一定程度的變革,才能充分發(fā)揮出 DPU的優(yōu)勢。計(jì)
    發(fā)表于 07-24 15:32

    芯片軟件全上陣 DPU“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會

    業(yè)務(wù)痛點(diǎn)精心打造的全新DPU卡產(chǎn)品,以及揭秘如何通過基于DPU的馭高性能底座釋放云端算力,為參會者呈現(xiàn)一場從硬件到軟件,從技術(shù)到應(yīng)用的全方位體驗(yàn)。 發(fā)布會現(xiàn)場,清華大學(xué)教授中國工程
    的頭像 發(fā)表于 06-23 11:09 ?1323次閱讀
    芯片軟件全上陣 <b class='flag-5'>DPU</b>“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會
    主站蜘蛛池模板: 四虎精品永久在线网址 | 插综合网 | 2021最新久久久视精品爱 | 日本加勒比在线视频 | 又粗又爽又色男女乱淫播放男女 | 一区不卡 | 日本国产黄色片 | 黄色小视频免费看 | 亚洲色四在线视频观看 | 一区二区三区四区在线观看视频 | 亚洲第一色在线 | 丁香花在线观看免费观看 | 首页 亚洲 欧美 制服 丝腿 | 天堂最新版在线www在线 | 在线播放你懂得 | 在线日韩一区 | 日本黄色网址大全 | 成人在线免费电影 | 亚洲一本| 日本黄色免费电影 | 成人精品亚洲 | 日本三级欧美三级香港黄 | 国产又粗又大又爽又免费 | 好爽~~~~嗯~~~再快点明星 | 天天综合天天干 | dyav午夜片 | 伊人啪| 2022欧美高清中文字幕在线看 | 国产性夜夜性夜夜爽91 | 久久精品久久久久 | 国产精品久久久久久久久久影院 | 丁香网五月网 | 久久新视频 | 日本韩国三级视频 | 天天操天天操天天干 | 欧美黄色片免费看 | 天天操夜夜夜 | 一级做a爰片久久毛片美女图片 | 超级毛片 | 狠狠干夜夜骑 | 免费看吻胸亲嘴激烈网站 |