91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

SpringBoot利用ThreadPoolTaskExecutor批量插入百萬級數據實測!

jf_ro2CN3Fa ? 來源:CSDN ? 作者:CSDN ? 2022-11-16 10:38 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


前言

  • 開發目的: 提高百萬級數據插入效率。
  • 采取方案: 利用ThreadPoolTaskExecutor多線程批量插入。
  • 采用技術: springboot2.1.1+mybatisPlus3.0.6+swagger2.5.0+Lombok1.18.4+postgresql+ThreadPoolTaskExecutor等。

基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

  • 項目地址:https://gitee.com/zhijiantianya/ruoyi-vue-pro
  • 視頻教程:https://doc.iocoder.cn/video/

具體實現細節

application-dev.properties添加線程池配置信息

> 基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能
>
> * 項目地址:
> * 視頻教程

# 異步線程配置
# 配置核心線程數
async.executor.thread.core_pool_size = 30
# 配置最大線程數
async.executor.thread.max_pool_size = 30
# 配置隊列大小
async.executor.thread.queue_capacity = 99988
# 配置線程池中的線程的名稱前綴
async.executor.thread.name.prefix = async-importDB-

spring容器注入線程池bean對象

@Configuration

@EnableAsync

@Slf4j

publicclassExecutorConfig{
@Value("${async.executor.thread.core_pool_size}")
privateintcorePoolSize;
@Value("${async.executor.thread.max_pool_size}")
privateintmaxPoolSize;
@Value("${async.executor.thread.queue_capacity}")
privateintqueueCapacity;
@Value("${async.executor.thread.name.prefix}")
privateStringnamePrefix;

@Bean(name="asyncServiceExecutor")
publicExecutorasyncServiceExecutor(){
log.warn("startasyncServiceExecutor");
//在這里修改
ThreadPoolTaskExecutorexecutor=newVisiableThreadPoolTaskExecutor();
//配置核心線程數
executor.setCorePoolSize(corePoolSize);
//配置最大線程數
executor.setMaxPoolSize(maxPoolSize);
//配置隊列大小
executor.setQueueCapacity(queueCapacity);
//配置線程池中的線程的名稱前綴
executor.setThreadNamePrefix(namePrefix);
// rejection-policy:當pool已經達到max size的時候,如何處理新任務
// CALLER_RUNS:不在新線程中執行任務,而是有調用者所在的線程來執行
executor.setRejectedExecutionHandler(newThreadPoolExecutor.CallerRunsPolicy());
//執行初始化
executor.initialize();
returnexecutor;
}
}

創建異步線程 業務類

@Service
@Slf4j
publicclassAsyncServiceImplimplementsAsyncService{
@Override
@Async("asyncServiceExecutor")
publicvoidexecuteAsync(ListlogOutputResults,LogOutputResultMapperlogOutputResultMapper,CountDownLatchcountDownLatch){
try{
log.warn("startexecuteAsync");
//異步線程要做的事情
logOutputResultMapper.addLogOutputResultBatch(logOutputResults);
log.warn("endexecuteAsync");
}finally{
countDownLatch.countDown();//很關鍵,無論上面程序是否異常必須執行countDown,否則await無法釋放
}
}
}

創建多線程批量插入具體業務方法

@Override
publicinttestMultiThread(){
ListlogOutputResults=getTestData();
//測試每100條數據插入開一個線程
List>lists=ConvertHandler.splitList(logOutputResults,100);
CountDownLatchcountDownLatch=newCountDownLatch(lists.size());
for(ListlistSub:lists){
asyncService.executeAsync(listSub,logOutputResultMapper,countDownLatch);
}
try{
countDownLatch.await();//保證之前的所有的線程都執行完成,才會走下面的;
//這樣就可以在下面拿到所有線程執行完的集合結果
}catch(Exceptione){
log.error("阻塞異常:"+e.getMessage());
}
returnlogOutputResults.size();
}

模擬2000003 條數據進行測試

4fc16cce-6555-11ed-8abf-dac502259ad0.png

多線程 測試 2000003 耗時如下:耗時1.67分鐘

4fe0a918-6555-11ed-8abf-dac502259ad0.png4fe8a71c-6555-11ed-8abf-dac502259ad0.png

本次開啟30個線程,截圖如下:

5003382a-6555-11ed-8abf-dac502259ad0.png

單線程測試2000003 耗時如下:耗時5.75分鐘

502a55e0-6555-11ed-8abf-dac502259ad0.png504a0548-6555-11ed-8abf-dac502259ad0.png

檢查多線程入庫的數據,檢查是否存在重復入庫的問題:

根據id分組,查看是否有id重復的數據,通過sql語句檢查,沒有發現重復入庫的問題

506e5010-6555-11ed-8abf-dac502259ad0.png

檢查數據完整性:通過sql語句查詢,多線程錄入數據完整

50798f48-6555-11ed-8abf-dac502259ad0.png

測試結果

不同線程數測試:

508bc816-6555-11ed-8abf-dac502259ad0.png50969b9c-6555-11ed-8abf-dac502259ad0.png

總結

通過以上測試案列,同樣是導入2000003 條數據,多線程耗時1.67分鐘,單線程耗時5.75分鐘。通過對不同線程數的測試,發現不是線程數越多越好,具體多少合適,網上有一個不成文的算法

CPU核心數量*2 +2 個線程。

附:測試電腦配置

50c32c2a-6555-11ed-8abf-dac502259ad0.png

審核編輯 :李倩


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • SQL
    SQL
    +關注

    關注

    1

    文章

    783

    瀏覽量

    45163
  • 多線程
    +關注

    關注

    0

    文章

    279

    瀏覽量

    20447
  • spring
    +關注

    關注

    0

    文章

    340

    瀏覽量

    15085
  • SpringBoot
    +關注

    關注

    0

    文章

    175

    瀏覽量

    401

原文標題:性能爆表:SpringBoot利用ThreadPoolTaskExecutor批量插入百萬級數據實測!

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    批量多品種生產困局破冰:選擇性波峰焊如何重塑柔性電子制造競爭力

    基板在焊接時的變形和保護錫膏印刷貼片物料不被錫波沖走,根據實際應用調查換線后,設備調試編程和參數設定大約需1小時,調試完成后首件驗證約2小時,治具開發成本在2000-8000元/款,年投入超百萬
    發表于 06-30 14:54

    0.4 至 6.0 GHz DPDT 低插入損耗/高隔離開關 skyworksinc

    電子發燒友網為你提供()0.4 至 6.0 GHz DPDT 低插入損耗/高隔離開關相關產品參數、數據手冊,更有0.4 至 6.0 GHz DPDT 低插入損耗/高隔離開關的引腳圖、接線圖、封裝手冊
    發表于 05-13 18:29
    0.4 至 6.0 GHz DPDT 低<b class='flag-5'>插入</b>損耗/高隔離開關 skyworksinc

    如何區分usb-typec是插入電腦還是插入其他電源?

    使用的是01的板子,要做成在usb插入電腦時,使用uvc相機, usb插入電源時使用顯示屏播放 如何判斷設備是插入到電腦還是電源,是通過某個設備節點還是什么? 需要先運行
    發表于 04-24 08:23

    樹莓派5 + Hailo AI加速器:工業級數數據處理實戰,打通SQLite與機器學習全鏈路

    本文討論了在工業自動化背景下,開發者利用樹莓派5和HailoAI加速器進行工業級數數據處理實戰,打通SQLite與機器學習全鏈路時遇到的問題及解決方案。關鍵要點包括:1.開發者需求:構建能從
    的頭像 發表于 03-25 09:22 ?520次閱讀
    樹莓派5 + Hailo AI加速器:工業<b class='flag-5'>級數</b>值<b class='flag-5'>數據</b>處理實戰,打通SQLite與機器學習全鏈路

    插入式電磁流量計的應用范圍要知道

    插入式電磁流量計的結構比較簡單,沒有可活動部件,測量數值比較準確,比其他安裝形式的電磁流量計體積小便于安裝。且插入式電磁流量計的應用范圍一點不比管段式的少,接下來我們詳細說說插入式電磁流量計
    的頭像 發表于 02-07 15:35 ?480次閱讀
    <b class='flag-5'>插入</b>式電磁流量計的應用范圍要知道

    hyper v vmware,hyper v vmware的操作步驟,hyper-v批量管理工具的使用指南

    的健身數據和消費數據進行分析,為會員提供個性化的健身方案和服務;在課程安排方面,批量虛擬機可以根據會員的需求和時間,合理安排課程,提高課程的利用率和滿意度;在健身
    的頭像 發表于 02-07 15:29 ?314次閱讀
    hyper v vmware,hyper v vmware的操作步驟,hyper-v<b class='flag-5'>批量</b>管理工具的使用指南

    hyper 下載,hyper 下載的操作步驟,hyper-v批量管理工具的使用指南

    ? ? 咨詢行業在市場調研、數據分析和戰略規劃等方面,需要處理大量的市場數據和行業數據批量虛擬機為咨詢行業帶來了高效的數據處理和分析能力。
    的頭像 發表于 02-07 15:09 ?788次閱讀
    hyper 下載,hyper 下載的操作步驟,hyper-v<b class='flag-5'>批量</b>管理工具的使用指南

    工業現場數據實時采集:解鎖工業智能化轉型的關鍵

    在當今工業智能化轉型的浪潮中,工業現場數據實時采集的重要性不言而喻。它猶如企業運營的 “慧眼”,為企業帶來全方位的顯著價值。
    的頭像 發表于 01-20 13:24 ?496次閱讀
    工業現場<b class='flag-5'>數據實</b>時采集:解鎖工業智能化轉型的關鍵

    ADS8674輸出數據有尖刺,實測時鐘時序和datasheet不符是怎么回事?

    14位ADC。使用verilog實現數據讀寫。SCLK時鐘7.5MHZ。CS和SDI按照data上操作。但實測ADC的SDO數據波形和data上不一致。data上說一個讀寫周期(CS兩個高脈沖
    發表于 12-10 06:15

    電桿傾斜監測裝置 桿塔傾斜監測裝置 支持數據實時讀取 精確預警

    TLKS-PMG-QX電桿傾斜監測裝置的核心組件是雙軸傾角傳感器,該傳感器能夠精確測量桿塔在縱向和橫向兩個方向的傾斜角度。傳感器持續進行數據采集,并將這些數據實時傳輸至監測主機。監測主機配備了高性能通信模塊,支持包括3G、4G、光纖和WiFi在內的多種傳輸方式,將處理后的
    的頭像 發表于 11-05 11:05 ?724次閱讀
    電桿傾斜監測裝置 桿塔傾斜監測裝置 支持<b class='flag-5'>數據實</b>時讀取 精確預警

    請問PWM輸出的死區時間如何實測

    有誰知道,PWM輸出的死區時間如何實測
    發表于 10-31 08:03

    智芯公司雙模分鐘級數據采集創新方案取得顯著成果

    近日,從國網安徽電力與國網山東電力的現場工作人員處分別獲得反饋,智芯公司的雙模分鐘級采集創新方案在山東與安徽兩省的試驗驗證中均取得了顯著成果。“在安徽省的試驗驗證中,首次實現分鐘級數據采集,成功率
    的頭像 發表于 10-25 11:43 ?1272次閱讀

    企業級數據庫的配置和管理要求匯總

    企業級數據庫配置需高性能硬件支撐,包括服務器、存儲、網絡及電源冗余,選用穩定DBMS與操作系統,注重索引與查詢優化。管理上,強調數據安全,實施加密、訪問控制與審計;確保高可用,配置容錯機制與備份恢復;監控調優性能,規劃容量與擴展性;追求易用性,簡化日常管理與維護,確保
    的頭像 發表于 09-27 10:50 ?499次閱讀

    DNA計算機研究取得突破性進展:PB級數據存儲與高效處理

    8月29日,科學界傳來振奮人心的消息,一項革命性的研究成果為實現全功能DNA計算機奠定了堅實基礎。研究團隊成功開發出一種創新技術,該技術不僅能在DNA中存儲驚人的PB級數據,還能確保這些數據在數千乃至數百萬年內保持完好,同時實現
    的頭像 發表于 08-29 16:29 ?935次閱讀

    天拓四方:工業級數據采集網關核心功能解析與應用價值

    在數字化轉型浪潮中,工業4.0與智能制造的概念日益深入人心,而這一切的基石在于高效、準確的數據采集與處理能力。工業級數據采集網關作為連接現場設備與云端或數據中心的關鍵橋梁,扮演著至關重要的角色。本文
    的頭像 發表于 07-23 16:11 ?588次閱讀
    主站蜘蛛池模板: 免费日本黄色网址 | 四虎永久影院 | 亚洲黄页网站 | 天天色爱| 亚洲午夜一级毛片 | 黄色大秀视频 | 午夜影视免费 | 黄色网址 在线播放 | 欧美一区二区三区黄色 | 国产精品视频一区国模私拍 | 丁香六月五月婷婷 | 老色批网站| 国产成人午夜片在线观看 | 亚洲色图 第一页 | sesese在线观看 | 国产一级簧片 | 欧美一区二区三区在线观看免费 | www.夜夜操 | 都市激情综合 | 拍拍拍拍拍拍拍无挡大全免费 | 妇少香港三日本三级视频 | 好爽好深太大了再快一点 | 国语自产自拍秒拍在线视频 | 久久久免费视频观看 | 最近最新中文字幕在线第一页 | 婷婷国产 | 色偷偷91久久综合噜噜噜噜 | 一区二区三区四区欧美 | 中文在线最新版天堂 | 午夜在线观看视频在线播放版 | 97久久综合九色综合 | 高清人妖shemale japan | 狠狠的干狠狠的操 | 特黄特色三级在线观看 | 成人夜夜| 日韩欧美中文字幕在线播放 | 人人玩人人添天天爽 | 欧美日韩一区视频 | 免费看吻胸亲嘴激烈网站 | 两性毛片 | 人色网 |