在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Linkis成為做數據平臺的利器

數據分析與開發 ? 來源:大數據技術與架構 ? 作者:大數據技術與架構 ? 2021-10-08 16:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

微眾銀行開源項目Linkis正式通過Apache軟件基金會(ASF)的投票表決,全票通過進入ASF孵化器!

Linkis簡介

Linkis 在上層應用程序和底層引擎之間構建了一層計算中間件。通過使用Linkis 提供的REST/WebSocket/JDBC 等標準接口,上層應用可以方便地連接訪問MySQL/Spark /Hive/Presto/ Flink 等底層引擎,同時實現變量、腳本、函數和資源文件等用戶資源的跨上層應用互通。作為計算中間件,Linkis 提供了強大的連通、復用、編排、擴展和治理管控能力。通過計算中間件將應用層和引擎層解耦,簡化了復雜的網絡調用關系,降低了整體復雜度,同時節約了整體開發和維護成本。Linkis 自2019年開源發布以來,已累計積累了700多家試驗企業和1000+沙盒試驗用戶,涉及金融、電信、制造、互聯網等多個行業。許多公司已經將Linkis 作為大數據平臺底層計算存儲引擎的統一入口,和計算請求/任務的治理管控利器。

核心特點

豐富的底層計算存儲引擎支持目前支持的計算存儲引擎:Spark、Hive、Python、Presto、ElasticSearch、MLSQL、TiSpark、JDBC和Shell等。正在支持中的計算存儲引擎:Flink、Impala等。支持的腳本語言:SparkSQL, HiveQL, Python, Shell, Pyspark, R, Scala 和JDBC 等。

強大的計算治理能力基于Orchestrator、Label Manager和定制的Spring Cloud Gateway等服務,Linkis能夠提供基于多級標簽的跨集群/跨IDC 細粒度路由、負載均衡、多租戶、流量控制、資源控制和編排策略(如雙活、主備等)支持能力。全棧計算存儲引擎架構支持能夠接收、執行和管理針對各種計算存儲引擎的任務和請求,包括離線批量任務、交互式查詢任務、實時流式任務和存儲型任務;資源管理能力。ResourceManager 不僅具備 Linkis0.X 對 Yarn 和 Linkis EngineManager 的資源管理能力,還將提供基于標簽的多級資源分配和回收能力,讓 ResourceManager 具備跨集群、跨計算資源類型的強大資源管理能力。

統一上下文服務為每個計算任務生成context id,跨用戶、系統、計算引擎的關聯管理用戶和系統資源文件(JAR、ZIP、Properties等),結果集,參數變量,函數等,一處設置,處處自動引用;

統一物料系統和用戶級物料管理,可分享和流轉,跨用戶、系統共享物料。

架構概要

Linkis 基于微服務架構開發,其服務可以分為3類:計算治理服務、公共增強服務和微服務治理服務。

計算治理服務,支持計算任務/請求處理流程的3個主要階段:提交-》準備-》執行;

公共增強服務,包括上下文服務、物料管理服務及數據源服務等;

微服務治理服務,包括定制化的Spring Cloud Gateway、Eureka、Open Feign。OK,看到這里你發現什么了沒?如果你聽說過Zepplin。你可能知道我在說什么,Linkis的出現完全可以替代掉Zepplin,成為做數據平臺/中臺的利器!期望Linkis在未來的一段時間內,盡快補齊缺失的部分,比如對Flink最新版本的支持,逐步完善自己的應用生態圈!
責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲器
    +關注

    關注

    38

    文章

    7643

    瀏覽量

    166839
  • 大數據
    +關注

    關注

    64

    文章

    8953

    瀏覽量

    139817

原文標題:打造大數據平臺底層計算存儲引擎 | Apache孵化器迎來Linkis!

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    智慧環保大數據管理平臺有什么功能

    在環境污染問題日益嚴峻的當下,智慧環保大數據管理平臺成為環境治理的重要利器。它圍繞污水處理、垃圾處理、氣體監測三大核心場景,深度融合大數據、
    的頭像 發表于 06-06 15:17 ?180次閱讀
    智慧環保大<b class='flag-5'>數據</b>管理<b class='flag-5'>平臺</b>有什么功能

    RFID測溫芯片:光伏發電運營管理的新利器

    隨著科技的進步,RFID測溫芯片成為光伏發電運營管理的新利器。它通過電磁感應原理工作,實時采集設備溫度數據,并將數據傳輸至后臺管理系統,實現對設備溫度的非接觸式、實時監測,有效解決光伏
    的頭像 發表于 06-04 10:31 ?170次閱讀
    RFID測溫芯片:光伏發電運營管理的新<b class='flag-5'>利器</b>

    明遠智睿SSD2351開發板:儀器儀表與智慧農業的創新利器

    在儀器儀表和智慧農業領域,對設備的精度、穩定性和智能化程度有著較高的要求。明遠智睿的SSD2351開發板以其獨特的優勢,成為這兩個領域的創新利器。 在儀器儀表方面,SSD2351開發板的四核
    發表于 05-09 19:09

    紅外模組:供電系統監測與維護的新利器

    在當今快速發展的電力行業中,供電系統的穩定與安全直接關系到社會經濟的正常運行和民眾生活的便利。隨著科技的進步,紅外模組技術以其獨特的優勢,在供電系統的監測與維護中嶄露頭角,成為提升系統效能、保障電力供應的新利器
    的頭像 發表于 03-12 09:30 ?268次閱讀
    紅外模組:供電系統監測與維護的新<b class='flag-5'>利器</b>

    索尼FCB-EV9500L:電力巡檢的新利器

    索尼FCB-EV9500L:電力巡檢的新利器
    的頭像 發表于 03-06 10:37 ?317次閱讀

    智慧能源管理平臺,提升企業能源效率的利器

    ? ? ? 智慧能源管理平臺通過智能化、數據化的手段,幫助用汽企業實現能源的高效管理和優化,從而達到降本增效的目標。以下是該平臺如何助力企業降本增效的具體方式: 數據采集管理: 通過現
    的頭像 發表于 02-18 10:12 ?424次閱讀
    智慧能源管理<b class='flag-5'>平臺</b>,提升企業能源效率的<b class='flag-5'>利器</b>

    工業數據中臺排名推薦,哪家的好用

    在工業4.0和智能制造的時代浪潮下,數據成為驅動企業發展的核心要素。工業數據中臺作為連接工業設備、匯聚數據資源、賦能業務應用的核心平臺,正
    的頭像 發表于 02-12 10:23 ?367次閱讀
    工業<b class='flag-5'>數據</b>中臺排名推薦,哪家的好用

    5G工業數據可視化管理平臺是什么

    5G工業數據可視化管理平臺是一種集成了數據采集、處理、分析和展示功能的綜合性軟件系統,它以其獨特的功能和優勢,正在成為工業數字化轉型的重要工具。以下是對該
    的頭像 發表于 12-19 16:28 ?369次閱讀

    可與MES系統集成的數據采集監控平臺

    可與MES系統集成的數據采集監控平臺,在制造業中扮演著至關重要的角色。這類平臺通過實時采集各類數據源,對數據進行整合和統一管理,為MES系統
    發表于 12-16 15:08

    IOT數據采集平臺的功能特點

    隨著物聯網(IoT)技術的飛速發展,IOT數據采集平臺作為連接物理世界與數字世界的橋梁,正逐步成為各行業數字化轉型的重要工具。本文將深入探討IOT數據采集
    的頭像 發表于 09-25 13:28 ?1327次閱讀

    工業互聯網遠程監控平臺是什么

    工業互聯網遠程監控平臺:賦能智能制造的利器 在當今快速發展的工業領域,工業互聯網遠程監控平臺正逐漸成為推動工業升級和數字化轉型的重要力量。工業互聯網
    的頭像 發表于 08-29 14:11 ?621次閱讀

    工業數據可視化管理平臺是什么

    數據可視化管理平臺應運而生,它以其獨特的功能和優勢,正在成為工業數字化轉型的重要工具。 工業數據可視化管理平臺的定義 工業
    的頭像 發表于 08-28 14:21 ?598次閱讀

    工控數據采集物聯網平臺是什么

    工控數據采集物聯網平臺是一種集成化的軟件系統,它主要用于在工業環境中收集、處理、分析和管理來自各種設備和傳感器的數據。這種平臺結合了物聯網(IoT)技術,能夠實現對工業設備的遠程監控、
    的頭像 發表于 07-23 15:29 ?765次閱讀

    物聯網云平臺地圖數據可視化

    可視化技術以其直觀、高效、易于理解的特點,成為了一個不可或缺的組成部分。 物聯網云平臺地圖數據可視化功能,是指將物聯網設備采集的各類數據,通過云平臺
    的頭像 發表于 07-01 17:10 ?614次閱讀

    環境實時監控遠程管理平臺解決方案

    提供了全新的解決方案。 環境實時監控遠程管理平臺是一種集數據采集、分析、處理于一體的綜合性系統,通過現代信息技術手段實現對環境狀況的全面監控和科學管理。其核心價值在于提供及時準確的數據支持,幫助政府和企業
    的頭像 發表于 07-01 10:40 ?522次閱讀
    主站蜘蛛池模板: 一级毛片免费网站 | 天天插天天狠天天透 | 在线伊人网 | 国产三级精品播放 | 免费又黄又爽1000禁片 | 欧美日一区 | 成人影院在线观看 | 91一区二区三区四区五区 | 国产 麻豆 | 男人视频在线 | 青青伊人91久久福利精品 | avhd101天天看新片 | 天天操操操操操操 | se在线播放| 一级一黄在线观看视频免费 | 日本成人在线网址 | 午夜色a大片在线观看免费 午夜色大片在线观看 | 亚洲1314| 天天视频一区二区三区 | 男女草逼视频 | 美女喷白浆视频 | 爱插综合网 | 国产精品久久免费观看 | 亚洲精品午夜久久aaa级久久久 | 亚洲小说区图片区另类春色 | 色老久久精品偷偷鲁一区 | 亚洲天堂免费 | 高h水果榨汁play男男 | 高级毛片 | 亚洲2020天天堂在线观看 | 色视频免费国产观看 | 欧美ol丝袜高跟秘书在线播放 | 啪啪免费看 | 色多多www视频在线观看免费 | 美女免费视频色在线观看 | 亚洲成a人片77777kkk | 在线免费看影视网站 | 特级淫片aaaaa片毛片 | 一级毛片免费毛片一级毛片免费 | 欧美综合一区二区三区 | 色综合网址 |