在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

MySQL緩沖區設計介紹

數據分析與開發 ? 來源:博客 ? 作者:Spongecaptain's ? 2021-10-15 09:50 ? 次閱讀

1. Buffer 與 cache 的區別?

Bbuffer 與 Cache 非常類似,因為它們都用于存儲數據數據,被應用層讀取字節數據。在很多場合它們有著相同的概念,但是特定場合也有一定的區別[1]。

Buffer 與 Cache 的用途有所不一定:

Buffer 的主要目的是在不同應用、線程、進程之間共享字節數據,例如為了讓不同速度的設備能夠進行數據同步,就會使用共享 Buffer;

Cache 的主要目的是提高字節數據的讀取/寫入速度,例如根據時間局部性、地址局部性操作系統提供 page cache 機制;

當然,在很多場合下 Buffer 與 Cache 有著相同的語義,因此我們可以認為緩沖區既用于提高讀寫速度,又用于數據共享與同步。

2. MySQL 緩沖區設計

Figure1.MySQL 的緩沖區設計

如上圖所示,MySQL 在不同層次使用了與緩存機制不同的配套技術。其中有:

應用層:

Redo Log Buffer:對寫操作進行緩存,用于實現 MySQL InnoDB 的事務性;

InnoDB Buffer Pool:用于對 MySQL table 的數據進行緩存。讀內存而不是磁盤,通過減少磁盤讀操的方式提高讀操作性能;寫內存而不是磁盤,通過減少磁盤寫操的方式提高寫操作性能;

操作系統的 VFS(Virtual file system,虛擬文件系統)層:

Page Cache:操作系統通過緩存以及預讀機制對文件系統中的 block 基于 page 進行緩存管理;

Direct Buffer:當使用 Direct I/O 提供的相關 API 時,操作系統不再提供基于 Page Cache 機制的緩存,而是直接使用 Direct Buffer;

磁盤的 Disk Buffer:磁盤也可以提供磁盤緩存,通常在 MySQL 中會關閉磁盤緩存,我們僅僅需要了解有 Disk Buffer 這一概念即可。

3. Write Through/Back 與 Direct I/O

Write Through 與 Write Back 指的是在使用內存空間作為緩存的應用在處理寫操作時是否直接落盤:

Write Through:寫操作“穿過”緩存區直接落盤,這種策略能夠確保數據不會因為宕機而丟失內存緩沖區的數據;

Write Back:一次寫操作僅僅更新了內存緩存區中的數據,數據落盤通常通過間隔一個時間進行落盤一次;

MySQL 為此提供了一些參數來控制 Page Cache 數據落盤的具體行為,例如:

(1)innodb_flush_log_at_trx_commit

innodb_flush_log_at_trx_commit 參數用于控制基于 Page Cache 的 Redo Log Buffer 的數據落盤機制[2]。此參數用于控制以下兩個特性之間的平衡:

嚴格的事務管理機制;

事務提交 commit 操作執行時的高性能;

innodb_flush_log_at_trx_commit 有三個可選配置值:

1(默認值):每次事務提交時都日志必須刷新到磁盤上,提供了最可靠的事務性保證;

0:日志每間隔 1 秒刷新到磁盤上,這意味著在緩存中還沒有來得及刷新到磁盤上的數據在宕機時會丟失;

2:日志在事務提交后以及每間隔 1 秒刷新到磁盤上,這意味著在緩存中還沒有來得及刷新到磁盤上的數據在宕機時會丟失;

注意事項:配置 0 與 2 并不能保證 100% 每間隔一秒刷新到磁盤一次,這是因為 DDL 的修改以及 InnoDB 活動可能會導致日志刷新更頻繁。另一方面,由于事務調度問題,刷新頻率甚至會降低。

刷新頻率默認為 1 s,由參數 innodb_flush_log_at_timeout 進行配置。

(2)innodb_flush_method

innodb_flush_method 參數同時控制 redo log buffer 和 innodb buffer pool 緩沖區刷新策略,其中:

log files:redo log buffer 是 log files 在內存中的緩存區, log files 是磁盤上的 Redo Log 文件;

data files:innodb buffer pool 是 data files 在內存中的緩存區,data files 是磁盤上的數據文件(B+tree);

innodb_flush_method 參數目前有 6 種可選配置值[3]:

fdatasync;

O_DSYNC

O_DIRECT

O_DIRECT_NO_FSYNC

littlesync

nosync

這里只討論 Unix-like 操作系統,而不討論 Windows 系統。

其中,littlesync 與 nosync 僅僅用于內部性能測試,并不建議使用。

fdatasync,即取值 0,這是默認配置值。對 log files 以及 data files 都采用 fsync 的方式進行同步;

O_DSYNC,即取值 1。對 log files 使用 O_SYNC 打開與刷新日志文件,使用 fsync 來刷新 data files 中的數據;

O_DIRECT,即取值 4。利用 Direct I/O 的方式打開 data file,并且每次寫操作都通過執行 fsync 系統調用的方式落盤;

O_DIRECT_NO_FSYNC,即取值 5。利用 Direct I/O 的方式打開 data files,但是每次寫操作并不會調用 fsync 系統調用進行落盤;

補充說明:以 O_SYNC 方式打開文件意味著文件的每一次寫操作都直接導致將數據本身以及元數據刷新到磁盤上。

為什么有 O_DIRECT 與 O_DIRECT_NO_FSYNC 配置的區別?

首先,我們需要理解更新操作落盤分為兩個具體的子步驟:①文件數據更新落盤②文件元數據更新落盤。O_DIRECT 的在部分操作系統中會導致文件元數據不落盤,除非主動調用 fsync,為此,MySQL 提供了 O_DIRECT 以及 O_DIRECT_NO_FSYNC 這兩個配置[5]。

如果你確定在自己的操作系統上,即使不進行 fsync 調用,也能夠確保文件元數據落盤,那么請使用 O_DIRECT_NO_FSYNC 配置,這對 MySQL 性能略有幫助。否則,請使用 O_DIRECT,不然文件元數據的丟失可能會導致 MySQL 運行錯誤。

4. MySQL 日志的刷新策略

MySQL 日志刷新策略通過 sync_binlog 參數進行配置,其有 3 個可選配置:

sync_binlog=0:MySQL 應用將完全不負責日志同步到磁盤,將緩存中的日志數據刷新到磁盤全權交給操作系統來完成;

sync_binlog=1:MySQL 應用在事務提交前將緩存區的日志刷新到磁盤;

sync_binlog=N:當 N 不為 0 與 1 時,MySQL 在收集到 N 個日志提交后,才會將緩存區的日志同步到磁盤。

事實上,這個參數也用于控制日志是通過 Write Through 還是 Write Back 策略刷新到磁盤上。

注意事項:使用 Page Cache 機制的數據刷盤機制,即使基于同步策略,即每次寫操作都要求數據直接落盤,但在數據落盤之前,數據總是先要寫于 Page Cache 中,再將 Page Cache 中的具體 Page 刷新到磁盤上。

5. MySQL 的典型配置

innodb_flush_log_at_trx_commit 參數配置為 1:Redo Log 走 Page Cache,并且每次寫操作的日志在事務提交前都通過 fsync 刷新到磁盤;

innodb_flush_method 參數配置為 O_DIRECT:InnoDB Buffer Pool 走 Direct I/O,并且每次寫操作導致的文件數據(包括文件元數據)都通過 fsync 系統調用刷新到磁盤;

寫一條 redo log 涉及到的步驟有:

日志寫入 Redo Log buffer;

日志寫入 Page Cache;

通過系統調用 fsync 將 Page Cache 中的臟頁刷新到磁盤;

日志提交;

修改表的一行記錄涉及到的步驟有:

更新后的數據寫于 InnoDB Buffer Pool;

定時進行如下邏輯(異步進行):

InnoDB Buffer Pool 臟數據進行刷新,通過文件的 write 方法進行;

文件的 write 方法直接導致數據寫于磁盤上;

定時進行文件的 fysnc 調用,確保文件元數據寫于磁盤上;

https://spongecaptain.cool/post/mysql/zerocopyofmysql/

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7193

    瀏覽量

    89768
  • MySQL
    +關注

    關注

    1

    文章

    831

    瀏覽量

    26769

原文標題:MySQL 的零拷貝技術

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    RTOS的流緩沖區機制解析

    SAFERTOS中的流緩沖區(Stream buffer)機制,可以實現任務到任務或中斷到任務之間的通信。字節流是由發送方寫入緩沖區,接收方讀取緩沖區數據。流緩沖區作為隊列的輕量級級替
    的頭像 發表于 02-14 11:33 ?56次閱讀
    RTOS的流<b class='flag-5'>緩沖區</b>機制解析

    AMD Zen 4處理器悄然禁用循環緩沖區

    近日,AMD在更新BIOS后,對Zen 4架構的處理器進行了一項未公開說明的更改:禁用了循環緩沖區(Loop Buffer)功能。這一變化引發了業界和用戶的廣泛關注。 循環緩沖區作為CPU前端的一個
    的頭像 發表于 12-11 13:46 ?274次閱讀

    分享一個嵌入式通用FIFO環形緩沖區實現庫

    開源項目ringbuff ,是一款通用FIFO環形緩沖區實現的開源庫,作者MaJerle,遵循 MIT 開源許可協議。
    的頭像 發表于 10-23 16:20 ?568次閱讀
    分享一個嵌入式通用FIFO環形<b class='flag-5'>緩沖區</b>實現庫

    內存緩沖區和內存的關系

    內存緩沖區和內存之間的關系是計算機體系結構中一個至關重要的方面,它們共同協作以提高數據處理的效率和系統的整體性能。
    的頭像 發表于 09-10 14:38 ?805次閱讀

    單片機中的幾種環形緩沖區的分析和實現

    單片機中的幾種環形緩沖區的分析和實現一、簡介環形緩沖區(RingBuffer)是一種高效的使用內存的方法,它將一段固定長度的內存看成一個環形結構,用于存儲數據,能夠避免使用動態申請內存導致的內存碎片
    的頭像 發表于 08-14 08:39 ?1149次閱讀
    單片機中的幾種環形<b class='flag-5'>緩沖區</b>的分析和實現

    ESP8266有雙緩沖區嗎?

    我想實時傳輸一些信號的測量數據。信號的采樣周期為 1 ms。我想每 500 毫秒發送 2048 字節(一個數據包)。ESP8266有雙緩沖區(2x 2048字節)嗎?其想法是計數填充一個緩沖區(周期
    發表于 07-16 07:29

    創建DMA通道時,能否將DMA緩沖區的大小指定為8字節,并將DMA緩沖區的編號指定為1?

    創建 DMA 通道時,能否將 DMA 緩沖區的大小指定為 8 字節,并將 DMA 緩沖區的編號指定為 1?
    發表于 05-31 07:46

    stm32野火開發板上做USB通信,PC端USB的緩沖區和串口緩沖區的大小是多少?

    stm32野火開發板上做USB通信,用的CDC虛擬串口。 stm32端將ADC采集的數據通過USB傳給電腦,傳輸速率理論上是12Mbps,上位機是從PC端的串口緩沖區拿數據,用C#編寫的上位機將
    發表于 05-17 14:02

    具有八進制反相緩沖區的掃描測試設備數據表

    電子發燒友網站提供《具有八進制反相緩沖區的掃描測試設備數據表.pdf》資料免費下載
    發表于 05-17 09:58 ?0次下載
    具有八進制反相<b class='flag-5'>緩沖區</b>的掃描測試設備數據表

    實現穩健的微控制器到FPGA SPI接口: 雙緩沖區

    介紹緩沖器之前,我們將簡要探討Verilog 脈寬調制器 (PWM) 的工作原理。這一點很重要,因為雙緩沖區最好被看作是硬件模塊 (如 PWM) 的可尋址接口。
    的頭像 發表于 05-16 09:36 ?811次閱讀
    實現穩健的微控制器到FPGA SPI接口: 雙<b class='flag-5'>緩沖區</b>!

    Stm32采用環形緩沖區接收rk3588的數據代碼

    Stm32采用環形緩沖區接收rk3588的數據代碼
    的頭像 發表于 05-15 10:10 ?710次閱讀

    交換機與路由器緩沖區:尋找完美大小

    *本文系SDNLAB編譯自瞻博網絡技術專家兼高級工程總監Sharada Yeluri領英 在路由器和交換機中,緩沖區至關重要,可以防止網絡擁塞期間的數據丟失。緩沖區到底要多大?這個問題在
    的頭像 發表于 04-11 16:56 ?1527次閱讀
    交換機與路由器<b class='flag-5'>緩沖區</b>:尋找完美大小

    交換芯片緩沖區大小是什么

    交換芯片緩沖區大小并不一定是固定的。緩沖區的設計和實現會根據芯片的具體型號、規格以及應用場景的不同而有所差異。一些交換芯片可能具有固定大小的緩沖區,以滿足特定的性能需求或成本限制。然而,隨著技術
    的頭像 發表于 03-18 14:42 ?703次閱讀

    使用UART FIFO緩沖區時,緩沖區中的數據有時會損壞的原因?

    我在使用 UART FIFO 緩沖區時遇到了以下問題。 問題描述: 當通過兩個 UART 通道使用完整的 UART FIFO 緩沖區并通過兩個通道進行通信時,緩沖區中的數據有時會損壞,例如,UART
    發表于 03-06 06:59

    沒有辦法通過FX3固件檢查緩沖區是卡住了還是已滿?

    我正在嘗試通過多通道 DMA 緩沖區直播 1080p60 視頻,但是我們遇到了一個問題,即在向 FX3 寫入一定數量的緩沖區之后,我們看到當前線程 WATERMARK 和 READY 標志保持不變
    發表于 02-23 08:01
    主站蜘蛛池模板: 男人午夜小视频 | 亚洲欧美国产高清va在线播放 | 天天av天天翘天天综合网 | 就要干就要操 | 国产视频第一页 | 夜色成人| 日本不卡视频在线观看 | 国产一级特黄老妇女大片免费 | 欧美视频区 | 爽爽爽爽爽爽a成人免费视频 | 欧美午夜精品久久久久久黑人 | 天天摸日日摸人人看 | 麒麟色欧美影院在线播放 | 亚洲免费视频在线观看 | 色多多www | 亚洲无吗在线视频 | 国产天堂网 | 亚洲午夜网 | 成人免费看黄页网址大全 | 亚洲综合在线一区 | 国产超爽人人爽人人做 | 国产综合在线观看 | 一本大道加勒比久久综合 | 97玖玖| 男女交性动态免费视频 | 日本久操 | 色老头成人免费视频天天综合 | 香蕉久久高清国产精品免费 | 午夜在线免费观看视频 | 4hc44四虎www视频 | 欧美视频综合 | 69日本xxxxxxxxx19 69日本xxxxxxxxx29 | 很黄很污小说 | 美女毛片视频 | 大色综合色综合网站 | 亚洲欧美精品成人久久91 | 五月婷六月 | 人人搞人人爽 | 国产精品一级毛片不收费 | 钻石午夜影院 | 国产一区二区精品 |