在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Redis 大數據量高速遷移,2000W key不到2分鐘!

數據庫小組 ? 來源:數據庫小組 ? 作者:數據庫小組 ? 2023-09-12 15:40 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Redis是目前最流行的鍵值對存儲數據庫,憑借高性能和豐富的數據類型的特性,不僅可以作為緩存,還可以作為一個可持久化的數據庫存儲。隨著業務的發展和版本的迭代,必然會遇到內存不足、集群節點不夠和BUG等一系列問題。為了防止這些問題導致的系統故障,常常會把對內存、集群節點擴縮容和版本升級等操作作為工作考核的重要一項。這些操作都涉及了數據的遷移,所以,提供高效、安全的不停機數據遷移方案是非常有必要的。

現在,NineData 在支持業務不中斷的前提下,實現了配置簡單、穩定、高效、安全的數據遷移服務,很好地滿足版本升級、擴容、縮容等場景下對數據遷移和同步的需求。經實測,NineData 可在 2分鐘內完成2000萬個 key(5GB)數據的遷移,平均 遷移速度為 164398 個key/秒,性能是開源工具的2倍多。

1、傳統的遷移方案

目前,數據遷移主要的方式有:使用 RDB 遷移,或一些開源工具進行數據遷移。對于這些方式的遷移,會存在一些問題:

需要停機,對于拷貝 RDB 文件方式的遷移,不能保障在線業務,并且也不能兼容大版本升級。

準確性難保障,不支持數據檢測能力,遷移后的數據質量難以保障。

可靠性差,對于開源工具,遷移異常后,進程直接退出。

運維性差,不能進行暫停、限流、告警等操作。

2、高性能的遷移方案

NineData 提供的數據復制同時包含了數據遷移和數據同步的能力,在不影響業務的前提下,提供了高效、穩定、安全的遷移能力。相較于傳統遷移比,NineData 的 Redis 數據遷移能力有如下優勢:

?? 簡單易用

一分鐘即可完成任務配置,并全自動化完成任務遷移。

?? 強勁性能

通過動態攢批、隊列優化、流式內存管理等核心技術,遷移性能達到16萬key/秒,性能是開源遷移工具的2倍,有效保障遷移效率。

?? 高可靠

結合新型斷點、異常診斷及豐富的修復手段,對于遷移過程中可能出現軟硬件故障,提供完善的容災能力,大大提高了遷移的成功率。

通過上述優勢,保證了 NineData 在 Redis 遷移場景下的領先性。另外,NineData 還提供了對比功能,包含全量、快速和不一致復檢的對比方式,并且也支持不同的對比頻率。在遷移或復制結束后,通過對比,有效地保障數據的質量。

3、操作使用

NineData 在提供強大遷移能力的同時,也保證了使用的簡單性,只需1分鐘就能完成遷移任務的配置,實現完全自動化的數據遷移過程。下面我們來看下整個任務的配置過程:

3.1 遷移鏈路的配置

wKgZomUAFgKAGTXFAAT9gTprfts621.jpg

遷移鏈路的配置

1. 配置任務名稱,選擇要遷移的源和目標實例。

2. 選擇復制類型,數據遷移選擇結構和全量復制(數據遷移)。

3. 根據需要,選擇合適的沖突處理策略。

3.2 選擇遷移對象

wKgaomUAFgOAR9pBAARC9Qm8gqU180.jpg

選擇遷移對象

選擇遷移對象:可選擇不同 DB 進行遷移。

3.3 配置映射對象

wKgZomUAFgOAefhRAARDPj_iFzY630.jpg

配置映射對象

配置映射:可以把源實例的多個數據庫(0~15)映射到目標實例的指定1個或多個數據庫,通過該映射能力可以實現類似于 MySQL 多源復制的場景。

3.4 預檢查

wKgaomUAFgSALmWqAAYiv2zSalQ287.jpg

預檢查

通過完善的檢查項,保證了遷移任務的穩定性。到此,我們就完成了一個高效、安全的 Redis 遷移任務的配置,當完成配置并啟動任務后,NineData 會自動啟動全量復制及增量復制過程,實現全自動化的數據遷移。

同時,為了提供更好的遷移體驗,NineData 針對遷移過程提供了完善的觀測、干預能力。其不但提供對象遷移的詳細狀態、進展、詳情,還通過監控和日志透露后臺線程的內部執行情況,幫助用戶全方位追蹤遷移進展。同時,還針對運行過程中可能出現的異常情況,提供基礎診斷和遷移限流能力,讓用戶能夠自主快速地診斷并修復鏈路,保障遷移穩定性。遷移期間的信息:

wKgZomUAFgWAbGseAAbFCaKQEZI809.jpg

NineData針對遷移過程提供了完善的觀測能力

wKgaomUAFgaAFSf0AAW9F3NV8z4056.jpg

NineData提供完善的可干預能力

wKgZomUAFgaAUjXRAAXHHgxDSTo964.jpg

NineData提供基礎診斷和遷移限流能力

4、總結

NineData 基于全量復制、增量日志復制技術,提供了高效、安全可靠的 Redis 不停機遷移方案。當然,除了 Redis,NineData 已經支持數十種常見數據庫的遷移復制,實現數據庫遷移、數據容災、數據雙活、數據倉庫實時集成等業務場景。同時,除了 SAAS 模式外,還提供了企業專屬集群模式,滿足企業最高的數據安全合規要求。目前,NineData已在運營商、金融、制造業、地產、電商等多個行業完成大規模應用實踐。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據傳輸
    +關注

    關注

    9

    文章

    2010

    瀏覽量

    65894
  • 開源
    +關注

    關注

    3

    文章

    3649

    瀏覽量

    43676
  • Redis
    +關注

    關注

    0

    文章

    385

    瀏覽量

    11383
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    cypress3014怎么查看USB走線每幀傳輸的圖像數據量

    你好,請問怎么查看USB 走線每幀傳輸的圖像數據量
    發表于 05-14 06:12

    HAL庫SPI DMA批量傳輸數據量最大為2^16,有沒有辦法改成上限為2^32?

    HAL庫SPI DMA批量傳輸數據量最大為2^16,有沒有辦法改成上限為2^32
    發表于 03-07 13:02

    ADS1232高速測量時出現20分鐘的長周期波動,是什么原因呢?

    時(10次/秒),波動已經可以做到10個字以內,但是高速(80次/秒)時測值波動較大,采用4個周期的移動平均濾波后,穩定性增強,但是數據出現20分鐘的長周期波動,波動幅度在800個字,形狀類似鋸齒波,請問是什么原因呢?
    發表于 02-14 07:11

    使用TLV5637進行數據轉換,同一個文件,有的時候可以的到輸出信號,有的時候就不到,為什么?

    使用TLV5637進行數據轉換,通過FPGA寫入數據,時鐘以及片選。 同一個文件,有的時候可以的到輸出信號,有的時候就不到,但是
    發表于 01-24 07:13

    一種輕表方案-MyBatis攔截器表實踐

    作者:京東零售 張均杰 背景 部門內有一些億級別核心業務表增速非常快,增量日均100W,但線上業務只依賴近一周的數據。隨著數據量的迅速增長,慢SQL頻發,數據庫性能下降,系統穩定性受到
    的頭像 發表于 01-23 17:38 ?391次閱讀

    Redis Cluster之故障轉移

    主從復制中單機的 QPS(10W)可能無法滿足業務需求。 數據量的考慮:現有服務器內存不能滿足業務數據的需要時,單純向服務器添加內存不能
    的頭像 發表于 01-20 09:21 ?845次閱讀
    <b class='flag-5'>Redis</b> Cluster之故障轉移

    基于javaPoet的緩存key優化實踐

    數據庫中的熱數據緩存在redis/本地緩存中,代碼如下: ? @Cacheable(value = { "per" }, key="#person.getId
    的頭像 發表于 01-14 15:18 ?791次閱讀
    基于javaPoet的緩存<b class='flag-5'>key</b>優化實踐

    使用LMP90100連續工作2、3分鐘后,每片LMP90100返回的數據都是某個固定通道的數據,為什么?

    LMP90100返回的數據都是某個固定通道的數據,重新上電后有時通道序號有變化,但以第二個通道數據居多,其他3路數據不見了 問題2: 在起
    發表于 12-23 07:53

    緩存對大數據處理的影響分析

    緩存對大數據處理的影響顯著且重要,主要體現在以下幾個方面: 一、提高數據訪問速度 在大數據環境中,數據存儲通常采用分布式存儲系統,數據量龐大
    的頭像 發表于 12-18 09:45 ?724次閱讀

    信號板上面的ADS1255開機不到1分鐘就發燙,為什么?

    我現在遇到一個問題,信號板上面的ADS1255開機不到1分鐘就發燙,我不知道是什么原因,可能是我原理圖有問題也可能是PCB布局的問題,現在我把原理圖貼上,還請幫我一起查下原因,謝謝了啊。AVDD
    發表于 12-03 06:32

    C2000?第2代至第3代MCU功能安全使能器遷移指南

    電子發燒友網站提供《C2000?第2代至第3代MCU功能安全使能器遷移指南.pdf》資料免費下載
    發表于 11-28 15:08 ?0次下載
    C<b class='flag-5'>2000</b>?第<b class='flag-5'>2</b>代至第3代MCU功能安全使能器<b class='flag-5'>遷移</b>指南

    emc數據遷移工具的使用指南

    在當今快速發展的信息技術領域,數據遷移成為了企業IT戰略中不可或缺的一部。隨著數據量的激增和業務需求的變化,企業需要將數據從一個存儲系統
    的頭像 發表于 11-01 15:55 ?813次閱讀

    1分鐘了解臺式電腦系統備份:NVMe PCIe SATA M.2雙協議SSD輕松拷貝不求人

    需求 在工作環境下不僅要存儲大量文文件、項目文件,還有軟件、系統映像文件等關鍵數據需要定期備份。傳統的備份方式,例如透過外接硬盤或云端備份,雖然可以達到基本需求,但如果備份的數據量龐大,傳輸速度便成為
    發表于 10-15 15:39

    波型輸出正常,但工作不到分鐘時間TPA3221總是無故燒毀,為什么?

    波型輸出正常,但工作不到分鐘時間TPA3221總是無故燒毀,絕對不是過流或過熱。
    發表于 08-14 07:50

    預訓練和遷移學習的區別和聯系

    預訓練和遷移學習是深度學習和機器學習領域中的兩個重要概念,它們在提高模型性能、減少訓練時間和降低對數據量的需求方面發揮著關鍵作用。本文將從定義、原理、應用、區別和聯系等方面詳細探討預訓練和遷移學習。
    的頭像 發表于 07-11 10:12 ?1996次閱讀
    主站蜘蛛池模板: 四虎国产精品永久在线播放 | 午夜老司机福利 | 成人免费黄色 | 免费又黄又硬又大爽日本 | 国产超爽人人爽人人做 | 91久久国产青草亚洲 | 午夜啪啪网站 | 五月天在线婷婷 | 黄.www| 黄视频网站在线观看 | 国内夫妇交换性经过实录 | 四虎在线永久免费观看 | 中国又粗又大又爽的毛片 | 亚洲免费一 | 国产激情视频一区二区三区 | 天天干天天色综合 | 国产毛片一区二区三区精品 | 亚洲区一二三四区2021 | 国产三级视频 | 青草青草视频2免费观看 | 黄色三级在线看 | 日韩三级在线免费观看 | 额去鲁97在线观看视频 | 欧美一区二区三区免费高 | 日本不卡高清免费 | 九九视频热 | 午夜寂寞在线一级观看免费 | 色视频在线观看免费 | 性无码专区无码 | 特黄a大片免费视频 | 1024手机在线观看你懂的 | 夜夜想夜夜爽天天爱天天摸 | 韩国三级hd中文字幕好大 | 国内精品一区二区在线观看 | 婷婷丁香激情五月 | 免费大片av手机看片 | 久久国产精品免费专区 | 婷婷毛片| 国产亚洲一区二区三区啪 | 成人久久久 | 伊人天天干 |