2023年8月至2024年5月,華為云GaussDB助力國家統計局順利完成第五次全國經濟普查(簡稱“五經普”)單位清查和普查登記數據采集處理工作。在此期間,全國200多萬名普查員通過手持終端設備,依托華為云GaussDB對全國范圍內的1億多普查對象進行普查數據采集與處理,為國家宏觀經濟決策提供了重要基礎數據。
千挑萬選,落定GaussDB
打造全局“一朵云”
“五經普”是一項重要的國情國力調查,肩負著摸清我國經濟家底、推動高質量發展的重要任務。國家統計局歷時三年建設的統計云技術平臺,作為統計云建設工程的關鍵支撐,在統計數據的采集、審核、驗收及匯總等關鍵業務場景中,首次在“五經普”實現了大規模的應用。
“五經普”在數據采集方式上進行了革新,通過部署在統計云技術平臺上的國家統計局數據采集處理系統直接進行數據填報,在業務高并發、海量數據處理和數據實時性、準確性、一致性等方面,對應用系統提出了更高要求。
作為支撐統計云業務運行的重要基礎設施,選擇一款合適的數據庫至關重要,也并非易事。經過深度市場調研和分析研究,華為云GaussDB在可用性、性能和遷移等方面,能夠較好地滿足國家統計局業務工作要求。
此外,華為公司與國家統計局有多年合作基礎,華為終端、網絡、服務器和存儲產品已在第三次全國農業普查、第四次全國經濟普查、第七次全國人口普查等數據采集處理場景中得到應用。隨著GaussDB在統計云工程中的成功應用,更是實現了全局“一朵云”的架構,推動了統計現代化改革發展。
“五經普”多業務場景下
細數GaussDB面臨的諸多挑戰
“五經普”采集模式的創新與落地,離不開統計云技術平臺的強大資源支撐、多樣化的功能調用以及豐富的實踐經驗。其中,華為云GaussDB數據實時匯集與分析能力,更是支撐統計云平臺實現了“一網通辦,一云統管”。在“五經普”業務保障過程中,GaussDB主要面臨兩大挑戰:
(一)采集高峰期業務高并發導致系統壓力大。“五經普”數據采集處理系統需確保全國200多萬普查員、168萬“一套表”單位(規模企業)、26萬統計機構人員用戶能夠高效、準確地填報和處理1.2億普查對象的普查數據。
(二)“五經普”業務邏輯要求在同一段時間內完成數據的填報(寫入)和審核驗收(讀取)操作。“五經普”普查登記數據采集時間是2024年1月1日至4月30日,在此期間,各級統計機構用戶需要同步開展數據審核、驗收和匯總。系統運行時,壓力主要集中在上午9點至12點和下午2點至5點。在實現數據的快速讀寫(業務的增刪改查SQL語句量約為每秒百萬條)的同時,系統還需具備強大的數據分析能力,能夠完成上萬條數據的匯總分析任務,以確保數據的實時性、準確性和一致性。
華為云GaussDB提供更優解決方案
有效承載業務壓力
作為統計云技術平臺的有力基礎支撐,GaussDB通過分布式技術架構部署與優化策略,確保了數據采集任務的高效執行與精確完成,為統計云技術平臺的穩定運行與高效運作提供強力支持。
1. GaussDB分布式部署,頂住五經普業務高峰壓力。
一是“五經普”數據采集處理系統采用GaussDB分布式多節點(15節點),單庫容量最大支撐達到100TB,前期通過在線擴容,實現對業務的最小化影響。
二是借助GaussDB分布式執行框架,根據業務SQL生成最優執行計劃,并利用并行執行等技術,使得每秒事務處理數(TPS)輕松突破10萬大關,顯著提升分布式執行效率。
三是GaussDB多集群節點、線程池和連接池等技術能力,在高并發場景下,可實現毫秒級查詢響應,有效應對業務高峰。同時,針對分布式數據庫開展了一系列優化,共包括134類慢SQL,有效地降低數據庫的運行壓力,保障系統的穩定運行。
2. DRS數據實時同步,“兩”庫并行,保障數據高效入庫和實時分析。
華為云GaussDB采用采集庫與匯總庫分離策略,由采集庫存儲采集數據,然后通過數據復制服務(DRS)將采集數據快捷匯聚到匯總庫,以便更加高效的執行匯總任務。在此過程中,DRS支持將其他數據庫遷移過來的全量數據,一次性同步至GaussDB中。同時,通過實時解析源庫日志,將解析到的增量數據轉換為DRS內存存儲格式,達到100MB/s的數據處理速度,確保絕大多數情況下的秒級響應時延,從而滿足業務對讀寫分離的需求。
GaussDB
助力譜寫統計現代化改革新篇章
GaussDB高可用、高性能、易遷移等技術能力,保障了統計云圓滿完成統計業務工作,為上層統計核心業務系統提供合規保障,確保統計業務的連續性。在“五經普”單位清查數據合并場景中,數據處理耗時從原來的18分鐘縮短至2分鐘;在“五經普”普查登記數據采集場景中,高峰期單個節點的并發量突破了12000TPS,成功支撐超過30萬用戶同時在線,每秒處理業務量超過10萬筆,峰值查詢量達每秒120萬次,采集響應時延低于20毫秒。
此外,在完成“五經普”的數據采集任務后,GaussDB還支撐了國家統計局核心業務系統——聯網直報系統,為數據的實時上報、高效處理和深度分析提供了堅實的技術支撐。
統計云平臺創新成果在中國統計信息化建設史上開創了先河,實現了“多個首次”,全面承載國家統計局的核心業務系統,以數字化轉型驅動統計現代化改革。未來,華為云GaussDB將與國家統計局繼續攜手,共同推動統計高質量發展,以統計現代化更好服務中國式現代化。
-
華為
+關注
關注
216文章
34882瀏覽量
254528 -
數字化
+關注
關注
8文章
9118瀏覽量
62844
原文標題:華為云GaussDB助力國家統計局,開啟統計現代化改革新篇章
文章出處:【微信號:HWS_yunfuwu,微信公眾號:華為數字中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
智慧養殖物聯網系統助力打造現代化養殖業

DXC實現全球IT基礎設施現代化

華為云 GaussDB 助力國家統計局, 開啟統計現代化改革新篇章
華為云Stack助力統計信息化智能升級
南方智能構建現代化水庫運行管理矩陣
雷曼光電助力校園現代化建設
中國氣象局研討班學員到訪華為參觀交流
智慧農業平臺:推動農業現代化的科技力量
華為云徐峰:AI 賦能應用現代化,加速軟件生產力躍升

華為云金融 PaaS 賦能金融核心,激發云上創新

評論