91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

數據庫的中間件有啥用?

數據分析與開發 ? 來源:Coder的技術之路 ? 作者:Coder的技術之路 ? 2021-06-21 16:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Part1 數據庫中間件有啥用

有一天,你去三亞玩耍,就想玩個沖浪,即時你不差錢,難道還要自己采買快艇、滑板等等裝備來滿足這為數不多的心血來潮么。租一個就行了嘛。這其實就是連接池的作用。

數據庫中間件可以理解為是一種具有連接池功能,但比連接池更高級的、帶很多附加功能的輔助組件,不僅可以租沖浪板,還可以提供地點推薦、上保險等等各類服務。

從網上的資料看,zdal應該算是半開源的,好像是之前開源過,但后續沒有準備維護,然后就刪除了,不過github被fork下來好多,隨便一搜就是一片,當前,只是老的版本。目前螞蟻內部的zdal好像已經更新到zdal5了吧,那咱可就看不到了。

越復雜的系統,數據庫中間件的作用越大。就拿zdal來說,它提供分庫分表,結果集合并,sql解析,數據庫failover動態切換等數據訪問層統一解決方案。下面就一起來看下,其內部實現是怎么樣的。

Part2 架構剖析之高屋建瓴

c87433b8-d145-11eb-9e57-12bb97331649.png

2.1 整體概述

如上圖所示,zdal有四個重要的組成部分:

價值體現--客戶端Client包。對外暴露基本操作接口,用于業務層簡單黑盒的操作數據源;業務只和client交互,動態切換/路由等邏輯只需要進行規則配置,相關邏輯由zdal實現。

核心功能--連接管理datasource包。最核心的能力,提供多種類型數據庫的連接管理;不管功能多花哨,最終目的還是為了解決數據庫連接的問題。

關鍵能力--SQL解析parser包。基礎SQL解析能力;解析sql類型、字段名稱、數據庫等等,配合規則進行路由

擴展能力--庫表路由rule包。根據parser解析出的字段確定邏輯庫表和物理庫表。

2.2 組件圖看架構

組件圖對整體架構和各組件及相互聯系的理解可以起到很好的幫助。一個簡版的組件圖畫了好久,還有不少錯,不過大概是這么個意思,哎,基本功要丟~

c8833368-d145-11eb-9e57-12bb97331649.png

對照上圖可以比較清晰的看到:

Client包對應用層暴露的數據源、負責監聽配置動態變更的監聽組件、負責加載組織各部分的配置組件、負責加載spring bean 和庫表規則的配置組件;

Client中加載了規則組件,實現邏輯表和數據庫的路由規則。

Client中的庫表配置調用datasource中的數據源管理服務并構建連接池的連接池;

Client中的SqlDispatcher服務調用SQL解析組件實現SQL解析。

Part3 細節剖析之一葉知秋

3.1 配置加載和bean初始化

大部分情況下,我們使用如mybatis這樣的ORM框架來進行數據庫操作,其實不管是ORM還是其他方式,應用層都需要對數據源進行配置。

所以,client對外暴露了一個符合JDBC標準的datasource數據源,用來滿足應用層ORM等框架配置數據源的要求--ZdalDataSource

c89b1afa-d145-11eb-9e57-12bb97331649.png

//只提供了一個init方法,這也是spring啟動時時,必須要調用的初始化方法,所有功能,都從這里開始
public class ZdalDataSource extends AbstractZdalDataSource implements DataSource{
    public void init() {
        try {
            super.initZdalDataSource();
        } catch (Exception e) {
            CONFIG_LOGGER.error("...");
            throw new ZdalClientException(e);
        }
    }

ZdalDataSource#init()方法即為配置加載的核心入口,init中負責加載spring配置,根據配置初始化數據源,并創建連接池,同時,將邏輯表和物理庫的對應關系都維護起來供后續路由調用。

/*父類的init方法*/
protected void initZdalDataSource() {
    /*用FileSystemXmlApplicationContext方式加載配置文件中的數據源和規則,轉化成zdalConfig對象*/
    this.zdalConfig = ZdalConfigurationLoader.getInstance().getZdalConfiguration(appName,dbmode, appDsName, configPath);
    this.dbConfigType = zdalConfig.getDataSourceConfigType();
   this.dbType = zdalConfig.getDbType();
   //初始化數據源
   this.initDataSources(zdalConfig);
   this.inited.set(true);
    }
}

從上面的類圖和這里的兩個入口方法大概了解到zdal配置加載的啟動流程。下面我們就來詳細看一下,讀寫分離和分庫分表的規則是怎么被加載,怎么起作用的。

3.2 細說讀寫分離

讀寫分離配置的加載

首先,我們需要有數據源的相關配置,如下圖:

c8b7a6b6-d145-11eb-9e57-12bb97331649.png

此XML配置會在init方法被調用時,被初始化,解析成ZdalConfig類的屬性,ZdalConfig類的主要成員見下面代碼:

public class ZdalConfig {
    /** key=dsName;value=DataSourceParameter 所有物理數據源的配置項,比如用戶名,密碼,庫名等 */
    private Map dataSourceParameters = new ConcurrentHashMap();
    /** 邏輯數據源和物理數據源的對應關系:key=logicDsName,value=physicDsName */
    private Map              logicPhysicsDsNames  = new ConcurrentHashMap();
    /** 數據源的讀寫規則,比如只讀,或讀寫等配置*/
    private Map              groupRules           = new ConcurrentHashMap();
    /** 異常轉移的數據源規則*/
    private Map              failoverRules        = new ConcurrentHashMap();
    //一份完整的讀寫分離和分庫分表規則配置
    private AppRule                          appRootRule;

可以看到,xml中的規則,被解析到xxxRules里。這里以groupRules為例,failover同理。

下一步則是通過解析得到的zdalConfig 來初始化數據源:

protected final void initDataSources(ZdalConfig zdalConfig) {
    //DataSourceParameter中存的是數據源參數,如用戶名密碼,最大最小連接數等
    for (Entry entry : zdalConfig.getDataSourceParameters().entrySet()) {
        try {
           //初始化連接池
           ZDataSource zDataSource = new ZDataSource(/*設置最大最小連接數*/createDataSourceDO(entry.getValue(),zdalConfig.getDbType(), appDsName + "." + entry.getKey()));
           this.dataSourcesMap.put(entry.getKey(), zDataSource);
        } catch (Exception e) {
            //...
        }
   }
  //其他分支略,只看最簡單的分組模式
  if (dbConfigType.isGroup()) {
       //讀寫配置賦值
       this.rwDataSourcePoolConfig = zdalConfig.getGroupRules();
       //初始化多份讀庫下的負載均衡
       this.initForLoadBalance(zdalConfig.getDbType());
  }
  //注冊監聽:為了滿足動態切換
  this.initConfigListener();
}

initForLoadBalance的方法如下:

private void initForLoadBalance(DBType dbType) {
    Map dsSelectors = this.buildRwDbSelectors(this.rwDataSourcePoolConfig);
    this.runtimeConfigHolder.set(new ZdalRuntime(dsSelectors));
    this.setDbTypeForDBSelector(dbType);
}

可以看到,首先構建出了DB選擇器,然后賦值給了runtimeConfigHolder供運行時獲取。而構建DB選擇器的時候,其實是按讀寫兩個維度,把所有數據源都構建了一遍,即group_r和group_w下都包含5個數據源,只不過各自的權重不一樣:

//比如按上面的配置寫庫只有一個,但是也會包含全數據源

group_0_w_0 :< bean:read0DataSource , writeWeight:0>
group_0_w_1 :< bean:writeDataSource , writeWeight:10>
group_0_w_2 :< bean:read1DataSource , writeWeight:0>
group_0_w_3 :< bean:read2DataSource , writeWeight:0>
group_0_w_4 :< bean:read3DataSource , writeWeight:0>

//上述就是寫相關的DBSelecter的內容。

讀寫分離怎么起作用

以delete為例,更新刪除是要操作寫庫的

 public void delete(ZdalDataSource dataSource) {
     String deleteSql = "delete from test";
     Connection conn = null;
     PreparedStatement pst = null;
     try {
        conn = dataSource.getConnection();
        pst = conn.prepareStatement(deleteSql);
        pst.execute();
     } catch (Exception e) {
            //...
     } finally {
           //資源關閉
     }
 }

getConnection會從上文中提到的runtimeConfigHolder中獲取DBSelecter,然后執行execute方法

 public boolean execute() throws SQLException {
    SqlType sqlType = getSqlType(sql);
    // SELECT相關的就選擇group_r對應的DBSelecter
   if (sqlType == SqlType.SELECT || sqlType == SqlType.SELECT_FOR_UPDATE|| sqlType == SqlType.SELECT_FROM_DUAL) {
     //略
    return true;
    //update/delete相關的就選擇group_w對應的DBSelecter
  } else if (sqlType == SqlType.INSERT || sqlType == SqlType.UPDATE|| sqlType == SqlType.DELETE) {
       if (super.dbConfigType == DataSourceConfigType.GROUP) {
           executeUpdate0();
       } else {
           executeUpdate();
      }
      return false;
  } 
}

如果是讀取相關的,那就選_r的DBSelecter,如果是寫相關的,那就選_W的DBSelecter。那么executeUpdate0中是怎么執行區分讀寫數據源的呢,其實就是把這一組的數據源根據權重篩選一遍。

// WeightRandom#select(int[], java.lang.String[])
private String select(int[] areaEnds, String[] keys) {
   //這里的areaEnds數組,是一個累加范圍值數據
   //比如三個庫權重    10   9   8
   //那么areaEnds就是  10  19  27 是對每個權重的累加,最后一個值是總和
   int sum = areaEnds[areaEnds.length - 1];
   //這樣隨機出來的數,是符合權重分布的
   int rand = random.nextInt(sum);
   for (int i = 0; i < areaEnds.length; i++) {
       if (rand < areaEnds[i]) {
           return keys[i];
   }
   return null;
}

Part4 總結

本篇文章,把阿里數據庫中間件相關的組件和加載流程進行了總結,就一個最基本的分組讀寫分離的流程,對內部實現進行了闡述。說是解析,其實是提供給大家一種閱讀的思路,畢竟篇幅有限,如果對中間件感興趣的同學,可以fork下代碼,按上述邏輯自己閱讀下。

看源碼時,比如dubbo這些中間件其實是比較容易入手的,因為他們都依托于Spring進行JavaBean的裝載,所有,對Spring容器暴露的那些init、load方法,就是很好的切入點。個人思路,希望對大家有所幫助。

責任編輯:lq6

,>,>,>,>,>,>,>,>,>,>
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 中間件
    +關注

    關注

    0

    文章

    67

    瀏覽量

    18455
  • 數據庫
    +關注

    關注

    7

    文章

    3927

    瀏覽量

    66264

原文標題:一款優秀數據庫中間件的不完全解析

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    數據庫數據恢復—MongoDB數據庫文件丟失的數據恢復案例

    MongoDB數據庫數據恢復環境: 一臺操作系統為Windows Server的虛擬機上部署MongoDB數據庫。 MongoDB數據庫故障: 工作人員在MongoDB服務仍
    的頭像 發表于 07-01 11:13 ?161次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—MongoDB<b class='flag-5'>數據庫</b>文件丟失的<b class='flag-5'>數據</b>恢復案例

    數據庫數據恢復—SQL Server數據庫被加密如何恢復數據?

    SQL Server數據庫故障: SQL Server數據庫被加密,無法使用。 數據庫MDF、LDF、log日志文件名字被篡改。
    的頭像 發表于 06-25 13:54 ?146次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SQL Server<b class='flag-5'>數據庫</b>被加密如何恢復<b class='flag-5'>數據</b>?

    中科創達與ETAS推出預集成多域中間件解決方案

    近日,ETAS 與 ThunderSoft(中科創達)宣布雙方建立了緊密合作關系,并將在今年6月24日至25日于路德維希堡舉行的汽車電子大會上,聯合展示其新開發的、面向高性能計算(HPC)SoC 車載系統的多域預集成中間件解決方案。
    的頭像 發表于 06-25 10:16 ?436次閱讀

    STM32MP131C CbueMX中間件無RTOS選項是怎么回事?

    如題,STM32MP131C CbueMX中間件無RTOS選項,對比選擇STM32MP157芯片是有的,怎么查這部分資料呢
    發表于 03-14 06:59

    分布式云化數據庫哪些類型

    分布式云化數據庫哪些類型?分布式云化數據庫主要類型包括:關系型分布式數據庫、非關系型分布式數據庫、新SQL分布式
    的頭像 發表于 01-15 09:43 ?487次閱讀

    MySQL數據庫的安裝

    MySQL數據庫的安裝 【一】各種數據庫的端口 MySQL :3306 Redis :6379 MongoDB :27017 Django :8000 flask :5000 【二】MySQL 介紹
    的頭像 發表于 01-14 11:25 ?565次閱讀
    MySQL<b class='flag-5'>數據庫</b>的安裝

    數據庫是哪種數據庫類型?

    數據庫是一種部署在虛擬計算環境中的數據庫,它融合了云計算的彈性和可擴展性,為用戶提供高效、靈活的數據庫服務。云數據庫主要分為兩大類:關系型數據庫
    的頭像 發表于 01-07 10:22 ?513次閱讀

    數據庫數據恢復—Mysql數據庫表記錄丟失的數據恢復流程

    Mysql數據庫故障: Mysql數據庫表記錄丟失。 Mysql數據庫故障表現: 1、Mysql數據庫表中無任何數據或只有部分
    的頭像 發表于 12-16 11:05 ?617次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—Mysql<b class='flag-5'>數據庫</b>表記錄丟失的<b class='flag-5'>數據</b>恢復流程

    數據庫數據恢復—MYSQL數據庫ibdata1文損壞的數據恢復案例

    mysql數據庫故障: mysql數據庫文件ibdata1、MYI、MYD損壞。 故障表現:1、數據庫無法進行查詢等操作;2、使用mysqlcheck和myisamchk無法修復數據庫
    的頭像 發表于 12-09 11:05 ?636次閱讀

    DDS通信中間件——DCPS規范(下)

    DDS通信中間件——DCPS規范(下)本期還是DCPS規范,填上期沒有聊完的QoS的坑。本系列文章將包括以下內容陸續更新:1.DDS規范概述2.DCPS規范解讀3.DDS-XTypes與IDL解讀
    的頭像 發表于 11-27 11:47 ?1349次閱讀
    DDS通信<b class='flag-5'>中間件</b>——DCPS規范(下)

    中間件全球數據實時同步利器,華為云 EventGrid 事件流重磅發布

    【摘要】 華為云 EventGrid 事件流(簡稱 EG)作為易用、穩定、高效的數據同步管道連接不同的系統與服務,支持中間件數據在線實時同步。事件流圍繞云中間件,降低了中間件之間
    的頭像 發表于 10-31 18:39 ?570次閱讀
    <b class='flag-5'>中間件</b>全球<b class='flag-5'>數據</b>實時同步利器,華為云 EventGrid 事件流重磅發布

    數據庫數據恢復—通過拼接數據庫碎片恢復SQLserver數據庫

    一個運行在存儲上的SQLServer數據庫1000多個文件,大小幾十TB。數據庫每10天生成一個NDF文件,每個NDF幾百GB大小。數據庫包含兩個LDF文件。 存儲損壞,
    的頭像 發表于 10-31 13:21 ?700次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—通過拼接<b class='flag-5'>數據庫</b>碎片恢復SQLserver<b class='flag-5'>數據庫</b>

    數據庫數據恢復—SQL Server數據庫出現823錯誤的數據恢復案例

    SQL Server數據庫故障: SQL Server附加數據庫出現錯誤823,附加數據庫失敗。數據庫沒有備份,無法通過備份恢復數據庫
    的頭像 發表于 09-20 11:46 ?706次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SQL Server<b class='flag-5'>數據庫</b>出現823錯誤的<b class='flag-5'>數據</b>恢復案例

    軟件系統數據庫的分庫分表設計

    軟件系統數據庫的分庫分表設計 系統讀寫分離、分庫分表技術實現采用MyCat中間件,MyCat 是一款開源(遵循 Apache License 2.0 協議)的大數據庫集群中間件,用于搭
    的頭像 發表于 08-22 11:39 ?590次閱讀
    軟件系統<b class='flag-5'>數據庫</b>的分庫分表設計

    數據庫數據恢復—SqlServer數據庫底層File Record被截斷為0的數據恢復案例

    SQL Server數據庫數據無法被讀取。 經過數據庫數據恢復工程師的初步檢測,發現SQL Server數據庫文件無法被讀取的原因是底層
    的頭像 發表于 07-26 11:27 ?760次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SqlServer<b class='flag-5'>數據庫</b>底層File Record被截斷為0的<b class='flag-5'>數據</b>恢復案例
    主站蜘蛛池模板: 天天干天天拍天天射天天添天天爱 | 天天做天天爱天天综合网2021 | 51视频在线观看免费国产 | 综合久久婷婷 | 亚洲欧美视频在线观看 | 天堂网在线视频 | a级黄视频 | 四虎网站 | www.色.com| 天天操天天射天天操 | 亚洲综合一 | 精品一区二区影院在线 | 生活片一级性 | 人人干网站 | 成年黄网站免费大全毛片 | 高清不卡毛片免费观看 | 春宵福利网站 | videosgratis欧美另类老太 | 国产精品推荐天天看天天爽 | 失禁h啪肉尿出来高h受 | 99在线国产| 性欧美videofree丝袜 | 免费在线你懂的 | 欧美午夜色视频国产精品 | 亚洲怡红院在线观看 | 在线色| 色拍视频 | 免费在线播放视频 | 国产综合视频在线观看 | 国产小视频网站 | 国产三级在线免费观看 | 一级做a爱片在线播放 | 天天澡天天干 | 成人欧美另类人妖 | 在线观看h网站 | 欧美性性性性性ⅹxxbbbb | 欧美一区中文字幕 | 人人弄| 国产性videostv另类极品 | 伊人网综合在线 | 一色桃子juy774在线播放 |