近日,綠色計算產業聯盟“服務器典型應用場景性能評測行動”正式啟動,本次評測行動包括大數據、分布式存儲、Web應用、高性能計算、集中式關系型數據庫管理系統、ARM原生云手機、虛擬化7大服務器典型應用場景。星環科技大數據基礎平臺Transwarp Data Hub(TDH),經由中國電子技術標準化研究院作為國家權威檢測機構及綠色計算產業聯盟專業評測團隊進行權威評測,最終順利通過《服務器應用場景性能測試方法大數據》標準評測。
本次測試選用了四臺Arm服務器和四臺X86服務器進行對比,軟件層面Arm服務器集群使用的是星環科技的TDH大數據軟件,X86集群使用的是開源軟件CDH。
TDH是星環科技自主研發的企業級一站式多模型大數據基礎平臺,經過多年的快速演進,不斷發展成熟。
TDH采用“四層統一的多模型技術架構”,包括了11款核心產品:實時流計算引擎Slipstream、關系型分析引擎Inceptor、寬表數據庫Hyperbase、搜索引擎Scope、文檔數據庫DocStore、圖數據庫StellarDB、時空數據庫Spacture、時序數據庫TimeLyre、鍵值數據庫KeyByte、事件存儲庫Event Store、數據科學平臺Sophon Discover,能夠滿足用戶不同應用場景的需求。同時配套Aquila Insight、Manager、Audit、Guardian等工具,使TDH的安裝、管理、開發、運維、升級十分便捷,給用戶帶來極致的開發和運維體驗。
目前,TDH在政府、金融、能源、運營商、交通等各行各業積累了豐富的部署實施經驗,并且不斷向大數據技術新興前沿領域進行持續探索和深入研究。 通過部署、安裝、使用TDH,企業能夠更有效的利用大數據平臺構建核心商業系統,加速商業創新。
NoSQL數據庫場景,測試結果以X86結果為基礎,作了歸一化處理。星環科技TDH結合Arm服務器平臺與開源大數據軟件部署在X86平臺相比,1T數據使用ImportTsv方式批量導入耗時差距不大,均為40min左右。隨機寫、隨機讀和范圍掃描場景下,在吞吐量上Arm結果均要領先于X86結果,平均在13%左右。
搜索分析場景,吞吐量指標上Arm結果領先X86結果較多,平均在52%左右,表現出了較大的性能優勢,時延數據上兩者差距不大。核心組件Scope中每個EsNode進程存在多種線程池,包括與查詢相關的search、get線程池、與入庫相關的bulk線程池;該類型的線程池線程數量被固定為節點CPU核數,因此Arm處理器的多核特點,具有天然的性能優勢,可以增大數據處理并發度,降低響應時延。
流處理測試項以1000w條數據量為輸入參數,ETL場景下單線程寫入kafka partition為1的topic時Arm上流處理組件的吞吐達25萬條/秒,而X86的吞吐為20萬條/秒,且用時更短。Filter場景與ETL場景類似,Arm平臺上的結果均表現出了一定的優勢。窗口場景下對窗內數據進行計數時,TDH在Arm上的結果與Flink在X86上的結果相差不大。核心組件Slipstream計算框架是分布式并行流計算框架,其任務由taskslot數量決定并發度,taskslot數量取決于CPU物理核數。Arm處理器的多核特點可以增大流處理的并發度,提升數據處理效率。
數倉/數集場景下,星環科技TDH結合Arm服務器平臺較開源大數據軟件部署在X86平臺的測試結果平均領先幅度較大。分析平臺通過多任務并發,解決海量數據的處理問題,CPU核數越多,任務并發度越高,任務處理性能越高。這主要得益于TDH強大的離線、在線處理分析性能。另外,在硬件層面,Arm處理器相比業界主流處理器,其特點是多核計算,物理核數高,能夠提升任務并發度,對加速大數據的計算性能也有一定的幫助。
星環科技TDH產品特性與優勢
自主研發
TDH核心技術自主研發,滿足信創驗收要求
主流信創生態廠商的適配兼容,國產CPU、GPU、操作系統、服務器、中間件
完整多模型能力
9種存儲引擎支持10種數據模型:關系型分析、圖、寬表、文檔數據庫、時序數據庫、時空數據庫、鍵值數據庫、事件存儲庫、搜索引擎、對象存儲
統一SQL引擎
支持SQL2003、OraclePL/SQL、兼容Oracle、DB2和Teradata方言
支持完整的分布式事務操作;
全產品線的SQL統一訪問和開發
統一存儲管理
基于Raft一致性協議,具備自動故障遷移、數據修復能力
支持單節點穩定存儲百萬數據分片
支持橫向動態線性擴展
一次數據寫入,多種數據模型存儲
統一資源管理框架
采用容器編排技術進行資源管理
支持基于優先級的搶占式資源調度和細粒度資源分配
資源隔離互不影響,支持集群在線擴縮容
支持服務器、操作系統異構部署
高性能分布式文件系統
基于Raft一致性協議,兼容Hadoop生態
全量緩存元數據,小文件存儲無瓶頸,支持10億以上文件數,遠超開源HDFS 5倍
高并發、高吞吐對象存儲
-
服務器
+關注
關注
12文章
9367瀏覽量
86275 -
數據庫
+關注
關注
7文章
3859瀏覽量
64822 -
大數據
+關注
關注
64文章
8918瀏覽量
137950 -
星環科技
+關注
關注
0文章
37瀏覽量
2668
發布評論請先 登錄
相關推薦
評論