在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

分布式存儲架構面臨的挑戰

架構師技術聯盟 ? 來源:架構師技術聯盟 ? 2023-07-05 10:44 ? 次閱讀

從云和互聯網的業務場景來看,其存儲域主要采用基于服務器部署分布式存儲服務的融合方式,它面臨如下挑戰 : 1.數據保存周期與服務器更新周期不匹配。大數據、人工智能等新興業務催生出海量數據,大量數據需按照其生命周期策略(例如 8~10 年)進行保存。 2.性能可靠與資源利用率難以兼得。支撐業務的分布式存儲系統大致可以分為性能型存儲和容量型存儲,它們均無法同時實現高性能可靠與高資源利用率。具體地,性能型存儲主要運行數據庫、虛擬化等關鍵業務,通常采用三副本或兩副本并配合獨立冗余磁盤陣列卡模式 ;這類方案雖兼顧了性能和可靠性,但其大約 30% 的空間利用率卻是對存儲資源的極大浪費。 容量型系統為了提升空間利用率,采用糾刪碼(Erasure Code,EC)方式,然而,EC計算過程中的讀寫、重構等會消耗大量網絡資源,導致系統重構效率低下、重構時間長,給系統可靠性帶來風險(如圖 1 所示)。 baea3dca-1a84-11ee-962d-dac502259ad0.png3.新型分布式應用的極簡高效共享存儲訴求。 以無服務器(serverless)應用為代表的新型分布式應用在近些年涌現,這類應用從無狀態化向有狀態化擴展,比如數據庫、消息總線等組件紛紛容器化,數據共享訪問的訴求不斷增多。與此同時,人工智能和機器學習等應用需要大量異構算力協同,甚至產生共享內存訪問的訴求,它們關注高帶寬、低時延的訪問能力,僅需要輕量、便捷的共享存儲系統即可,不需要搭載具有復雜企業特性的傳統存儲。 4.數據中心稅導致數據密集型應用效率低下。 面向數據密集型場景,在基于以 CPU 為中心的服務器架構下,應用為獲取數據所繳納的“數據中心稅”(datacenter tax)日益加重。例如,服務器內的 CPU為處理網絡及存儲 IO 請求,需要消耗高達 30% 的算力 [3] ;此外,由于通用 CPU 并不擅長數據處理運算,導致其能效比低下。 傳統存算分離架構將算力資源和存儲資源(機械硬盤、固態硬盤等)分離至彼此獨立的計算域和存儲域,并通過以太網或專用存儲網絡(例如光纖通道)將二者互連,實現了存儲資源的靈活擴展和高效共享(如圖 2 左側所示);該架構主要為復雜的傳統企業特性設計,難以應對上述挑戰,為了讓云和互聯網存儲域服務兼顧資源利用率、可靠性、性能、效率等眾多訴求,亟須基于新型軟硬件技術構建新型存算分離架構。

bb00b230-1a84-11ee-962d-dac502259ad0.png

一、硬件技術趨勢 面對數據中心在容量利用率、存力效率等方面的挑戰,近年來,專用數據處理器、新型網絡等技術快速發展,為數據中心基礎設施的重構提供了技術基礎。 首先,為取代服務器本地盤,很多廠商推出以太網閃存簇(Ethernet Bunch of Flash,EBOF)高性能盤框(例如,近期陸續發布的西數 OpenFlex、Vast Data Ceres 高性能盤框等)。這類盤框不再具有復雜企業特性,而是注重采用新型的數據訪問標準,比如支持 NoF(NVM Express over Fabric)等接口,以提供高性能存儲實現對本地盤的替換。NoF 協議由 NVM Express (NVMe)標準組織在 2016 年發布,提供了 NVMe 命令到多種網絡傳輸協議的映射,使一臺計算機能夠訪問另一臺計算機的塊存儲設備。同時,一些研究機構進一步探索遠程內存池化技術,例如,韓國 KAIST 實驗室實現了基于 FPGA的 CXL(Compute Express Link)互連協議;CXL為英特爾于 2019 年 3 月在 Interconnect Day 2019 上推出的一種開放性互聯協議,能夠讓 CPU 與 GPU、FPGA 或其他加速器之間實現高速高效互聯,從而滿足高性能異構計算的要求。 其次,業界涌現出越來越多的數據處理單元(Data Processing Unit,DPU)和基礎設施處理單元(Infrastructure Processing Unit,IPU)專用芯片,在數據流處理路徑上取代通用處理器,提升算力能效比。同時,基于可編程交換機的網存協同也是研究熱點,例如在網數據緩存的 NetCache、KV-Direct,在網數據協調的 NetLock、SwitchTx,在網數據聚合的 SwitchML、NetEC,在網數據調度的 FLAIR、AlNiCo等。 最后,數據訪問網絡標準也在持續增強,比如CXL 協議新版本加強了內存池化方向的技術特性,同時吸收了 Gen-Z(由 AMDARM、HPE 等公司發起定義的面向內存語義的技術)、OpenCAP(Open Coherent Accelerator Processor Interface,最早由IBM 提出的異構計算接口)等技術的成果,正逐步成為業界主流高速互聯標準。NVMe 2.0 也在向著語義統一、Fabric 統一和介質統一方向演進。 這些新型存儲、計算和網絡硬件為構建面向云和互聯網場景的新型存算分離架構帶來了諸多機遇,譬如使用 DPU 等專用芯片能夠打破傳統以CPU 為中心的服務器架構,由此提升數據密集型應用的效率。 二、新型存算分離架構的特征 隨著遠程直接內存訪問(Remote Direct MemoryAccess,RDMA)、CXL、可編程網絡設備、高性能NVMe SSD、持久性內存等新型硬件技術的發展,需要構建新型存算分離架構,以確保云和互聯網存儲域服務能夠兼顧資源利用率、可靠性、性能、效率等眾多訴求。相較于傳統架構,新型存算分離架構最為顯著的區別在于 : (1)更為徹底的存算解耦,該架構不再局限于將 CPU 和外存解耦,而是徹底打破各類存算硬件資源的邊界,將其組建為彼此獨立的硬件資源池(例如處理器池、內存池、機械硬盤(HDD)/ 固態硬盤(SSD)池等),從真正意義上實現各類硬件的獨立擴展及靈活共享 ; (2)更為細粒度的處理分工,即打破了傳統以通用 CPU 為中心的處理邏輯,使數據處理、聚合等原本 CPU 不擅長的任務被專用加速器、DPU 等替代,從全局角度實現硬件資源的最優組合,進而提供極致的能效比。 總結來說,新型存算分離架構具有如下特征 : 1.無盤化的服務器。新型存算分離架構將服務器本地盤拉遠構成無盤化(diskless)服務器和遠端存儲池,同時還通過遠程內存池擴展本地內存,實現了真正意義上的存算解耦,可極大提升存儲資源利用率。業務使用時,可根據應用需求選擇配置不同性能、容量的虛擬盤及池化內存空間,這樣一方面可以避免由于不同服務器本地存儲空間利用率過低導致超配造成的浪費 ;另一方面,當服務器出現故障或者更新換代時,也不影響數據的保存,不需要額外的數據遷移。 2.多樣化的網絡協議。連接計算和存儲間的網絡協議從當前的 IP 或光纖通道(Fibre Channel,FC)協議擴展到 CXL+NoF+IP 協議組合。CXL 協議使得網絡時延降低到亞微秒級別,有助于內存型介質的池化 ;NoF 協議加速 SSD 池化 ;IP 協議可滿足 HDD 等慢速介質訪問訴求。通過這幾類協議組合構建的高通量網絡,滿足了多種場景池化接入訴求。 3.專用化的數據處理器。數據存儲、訪問等操作不再由通用處理器負責,而是卸載到專用數據處理器。此外,特定的數據操作可由專用硬件加速器進行進一步加速,如糾刪碼、加密壓縮、網絡通信等。通過專用數據處理器,可以釋放通用處理器算力,用于服務更適合的場景,顯著提升系統整體能效比。

4.極高存力密度的存儲系統。分離式存儲系統(disaggregate storage)是新型架構的重要組件,作為持久化數據的底座,在存儲介質的集約化管理基礎上,結合芯片、介質的深度協同設計,整合當前系統、盤兩級的空間管理,通過大比例糾刪碼算法減少冗余資源開銷比例。此外,還可通過基于芯片加速的場景化數據縮減技術提供更多的數據可用空間。

三、面向云和互聯網場景的存算分離架構

新型存算分離架構意在解決前文所提的當前架構面臨的幾大痛點挑戰,通過將原有架構的多級分層資源進行徹底解耦池化和重組整合,形成新的三大簡化分層 :存儲模組、總線網絡和算力模組,從而提供服務器本地存儲拉遠池化、新型網絡靈活組裝、以數據為中心的多元處理、高容量極簡盤框等幾大新興能力。

1、存儲模組

面向云和互聯網數據中心,需要以更專業的存儲能力重新定義云和互聯網的存儲架構。新型存算分離架構中,存儲型模組主要以 EBOF、以太網內存簇(Ethernet Bunch of Memory,EBOM)、以太網磁盤簇(Ethernet Bunch of Disk,EBOD)等新型盤框形態存在,RAID/EC/ 壓縮等傳統存儲能力下沉到新型盤框中,構成“盤即存儲”的大盤技術,對外通過NoF 等高速共享網絡提供塊、文件等標準存儲服務。這一類新型盤框將傳統磁盤陣列的冗余池化技術和數據縮減技術進行了高度集約化和小型化。

bb3793e0-1a84-11ee-962d-dac502259ad0.png

云和互聯網的多樣業務主要分為三種典型的應用場景(如圖 3 所示)。第一種場景是針對虛擬化業務,直接將數據中心存儲域服務器的本地盤拉遠,對分布式開源存儲集群的物理硬盤層形成替代。第二種場景是為數據庫、大數據服務等需要極熱數據處理的業務提供大內存、鍵 - 值(Key-Value,KV)接口,加速數據處理效率 ;第三種場景是針對容器等新業務場景,為 Ceph、Lustre 等分布式應用直接提供文件語義,卸載本地數據布局,并支持將溫熱數據分級到更冷的 EBOD 等機械硬盤或磁帶型存儲模組中,提升整系統資源使用效率。

2、算力模組

當前,摩爾定律演進變緩,只有采用專用處理器才能進一步以異構方式發揮出下一階段的算力。引入專用處理器后,算力池化是必然選擇 ;否則,如果為每臺服務器配置異構算力卡,不僅使整機功耗巨大,還會導致資源利用率十分低下。

以 DPU 為代表的專業數據處理器具備成本更低、功耗更低、即插即用、即換即用等獨特優勢,并且在運行狀態下不與業務應用發生資源爭搶,保證用戶業務正常運行的同時也保障了基礎設施的服務質量。

3、高通量數據總線

bb5960ba-1a84-11ee-962d-dac502259ad0.png

存算分離架構中,網絡技術非常重要,它決定了系統的響應速度以及吞吐能力,也決定了系統資源池化的能力范圍。過去 10 年,萬兆 IP 網絡促使 HDD 池化,基于 IP 網絡發展了支持塊、文件、對象共享的訪問協議。當前,面向熱數據處理,NVMe/RoCE(RDMA over Converged Ethernet,RDMA 融合以太網 ) 促 使 SSD 池 化 ;并 且,NVMe 協議快速發展使其開始收編煙囪式協議規范。下一步,面向極熱數據處理,內存型網絡(例如 CXL Fabric)將促使內存資源池化,為業務提供更大的共享內存空間(如圖 4 所示)。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲系統
    +關注

    關注

    2

    文章

    422

    瀏覽量

    41172
  • 存儲架構
    +關注

    關注

    0

    文章

    17

    瀏覽量

    10146

原文標題:分布式存儲架構發展及技術分析

文章出處:【微信號:架構師技術聯盟,微信公眾號:架構師技術聯盟】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    分布式存儲架構:第三節 分布式文件模型?#分布式架構??#分布式存儲系統?#分布式系統?#硬聲創作季

    云計算存儲系統分布式系統分布式存儲分布式存儲系統
    學習硬聲知識
    發布于 :2022年10月21日 14:28:49

    分布式系統的優勢是什么?

    當討論分布式系統時,我們面臨許多以下這些形容詞所描述的 同類型: 分布式的、刪絡的、并行的、并發的和分散的。分布式處理是一個相對較新的領域,所以還沒有‘致的定義。與順序計算相比、并行的
    發表于 03-31 09:01

    如何基于分布式軟總線進行“三步走”極簡開發

    一、什么是分布式軟總線呢?分布式軟總線是HarmonyOS架構中最底層的技術分布式軟總線是HarmonyOS的大動脈二、開發跨端應用,開發者們是否
    發表于 12-24 10:43

    集中式電源架構分布式電源架構

    電源,然后經過板上電源模塊轉換到各個目標電源進行使用,電源架構一般有集中式電源架構分布式電源架構。1、集中式電源架構即輸入電壓直接通過隔離
    發表于 11-15 07:11

    HDC2021技術分論壇:如何高效完成HarmonyOS分布式應用測試?

    HarmonyOS分布式應用開發,分布式應用如雨后春筍般涌現。然而分布式應用測試卻面臨質量差、效率低等挑戰。HarmonyOS如何應對這些
    發表于 12-13 14:55

    如何高效完成HarmonyOS分布式應用測試?

    HarmonyOS分布式應用開發,分布式應用如雨后春筍般涌現。然而分布式應用測試卻面臨質量差、效率低等挑戰。HarmonyOS如何應對這些
    發表于 12-13 18:07

    分布式軟總線實現近場設備間統一的分布式通信管理能力如何?

    現實中多設備間通信方式多種多樣(WIFI、藍牙等),不同的通信方式使用差異大,導致通信問題多;同時還面臨設備間通信鏈路的融合共享和沖突無法處理等挑戰。那么分布式軟總線實現近場設備間統一的分布式
    發表于 03-16 11:03

    深度解讀分布式存儲技術之分布式剪枝系統

    分布式文件系統存儲目標以非結構化數據為主,但在實際應用中,存在大量的結構化和半結構化的數據存儲需求。分布式鍵值系統是一種有別于我們所熟悉的分布式
    發表于 10-27 09:25 ?1943次閱讀

    淺談分布式存儲的元數據服務設計

    一般來說,我們根據存儲的訪問接口以及應用場景,把分布式存儲分為三種類型,包括分布式存儲分布式
    發表于 05-31 07:36 ?5055次閱讀

    AFS,GFS ,QKFile主流分布式存儲文件系統

    主流的3種分布式存儲文件系統 存儲架構分兩種,一種是傳統存儲陣列架構,另一種就是本文將要重點介紹
    發表于 08-02 11:04 ?3694次閱讀

    分布式存儲常見的架構有哪些

    分布式存儲系統,是將數據分散存儲在多臺獨立的設備上。傳統的網絡存儲系統采用集中的存儲服務器存放所有數據,
    發表于 11-16 14:55 ?8743次閱讀

    什么是分布式系統 分布式架構有哪些

    什么是分布式系統? 1.分布式系統一定是由多個節點組成的系統。 2.這些連通的節點上部署了我們的節點,并且相互的操作會有協同。 隨著應用架構演進, 分布式
    的頭像 發表于 07-31 09:54 ?7706次閱讀

    超融合和分布式文件/對象存儲的區別,它能做PACS影像存儲

    分布式存儲有多種類型,如分布式存儲分布式文件存儲和對象
    的頭像 發表于 06-14 16:09 ?7986次閱讀
    超融合和<b class='flag-5'>分布式</b>文件/對象<b class='flag-5'>存儲</b>的區別,它能做PACS影像<b class='flag-5'>存儲</b>嗎

    分布式存儲的7個特征

    什么是分布式存儲呢?如果一個存儲系統,不管是對象、塊、文件、kv、log、olap、oltp,只要對所管理的數據做了Partitioning&Replication,不管姿勢對不對,其實
    發表于 07-18 14:17 ?1269次閱讀

    什么是分布式架構?

    分布式架構是指將一個系統或應用拆分成多個獨立的節點,這些節點通過網絡連接進行通信和協作,以實現共同完成任務的一種架構模式。這種架構模式旨在提高系統的可擴展性、可靠性和性能表現。 一、
    的頭像 發表于 01-12 15:04 ?1559次閱讀
    什么是<b class='flag-5'>分布式</b><b class='flag-5'>架構</b>?
    主站蜘蛛池模板: 天天躁夜夜躁狠狠躁2018a | 黄色一级大片视频 | 免费又黄又爽1000禁片 | 亚洲三级电影在线播放 | 免费播放特黄特色毛片 | 久久国产精品免费网站 | 最近最新中文字幕在线第一页 | 97天天操 | xxxx性欧美极品另类 | 久久天天躁狠狠躁夜夜免费观看 | 亚洲a网| 九色欧美 | 韩国a级床戏大尺度在线观看 | 日本一线a视频免费观看 | 美女视频黄免费 | 国产精品视频第一区二区三区 | 中文字幕亚洲一区二区三区 | 天天撸视频 | 亚洲第一区精品日韩在线播放 | 免费观看视频 | 亚洲成色在线综合网站 | 午夜国产精品免费观看 | 在线观看亚洲一区 | 国产午夜爽爽窝窝在线观看 | 午夜短视频 | 免费一日本一级裸片在线观看 | h视频在线看 | 业余性自由色xxxx视频 | 99久久国产综合精品国 | 天天弄天天干 | 热99在线视频| 久久澡人人澡狠狠澡 | 久久精品美女 | 很狠操| vip免费观看 | 天天爽夜夜爽视频 | 丁香六月婷婷七月激情 | 好大好猛好爽好深视频免费 | 午夜剧场毛片 | 中文字幕123 | 91热成人精品国产免费 |