在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

JD-hotkey熱數據探測框架介紹

jf_ro2CN3Fa ? 來源:Gitee ? 作者:XiaoYu ? 2022-11-14 15:53 ? 次閱讀

JD-hotkey 是京東 APP 后臺熱數據探測框架,歷經多次高壓壓測和 2020 年京東 618 大促考驗。

在上線運行的這段時間內,每天探測的key數量數十億計,精準捕獲了大量爬蟲、刷子用戶,另準確探測大量熱門商品并毫秒級推送到各個服務端內存,大幅降低了熱數據對數據層的查詢壓力,提升了應用性能。

4f2c4600-6300-11ed-8abf-dac502259ad0.png

該框架歷經多次壓測,性能指標主要有兩個

1 探測性能:

8核單機worker端每秒可接收處理16萬個key探測任務,16核單機至少每秒平穩處理30萬以上,實際壓測達到37萬,CPU平穩支撐,框架無異常。

2 推送性能:

在高并發寫入的同時,對外推送目前性能約平穩推送每秒10-12萬次,譬如有1千臺server,一臺worker上每秒產生了100個熱key,那么這1秒會平穩推送100 * 1000 = 10萬次,10萬次推送會明確在1s內全部送達。如果是寫入少,推送多,以純推送來計數的話,該框架每秒可穩定對外推送40-60萬次平穩,80萬次極限可撐幾秒。

每秒單機吞吐量(寫入+對外推送)目前在70萬左右穩定。

在真實業務場景中,可用1:1000的比例,即1臺worker支撐1000臺業務服務端的key探測任務,即可帶來極大的數據存儲資源節?。ㄈ鐚edis集群的擴充)。

基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

項目地址:https://gitee.com/zhijiantianya/ruoyi-vue-pro

視頻教程:https://doc.iocoder.cn/video/

介紹

對任意突發性的無法預先感知的熱點請求,包括并不限于熱點數據(如突發大量請求同一個商品)、熱用戶(如爬蟲、刷子)、熱接口(突發海量請求同一個接口)等,進行毫秒級精準探測到。

然后對這些熱數據、熱用戶等,推送到該應用部署的所有機器JVM內存中,以大幅減輕對后端數據存儲層的沖擊,并可以由客戶端決定如何使用這些熱key(譬如對熱商品做本地緩存、對熱用戶進行拒絕訪問、對熱接口進行熔斷或返回默認值)。這些熱key在整個應用集群內保持一致性。

核心功能:

熱數據探測并推送至集群各個服務器。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

項目地址:https://gitee.com/zhijiantianya/yudao-cloud

視頻教程:https://doc.iocoder.cn/video/

適用場景

mysql熱數據本地緩存

redis熱數據本地緩存

黑名單用戶本地緩存

爬蟲用戶限流

接口、用戶維度限流

單機接口、用戶維度限流限流

集群用戶維度限流

集群接口維度限流

worker 端強悍的性能表現

每10秒打印一行,totalDealCount代表處理過的key總量,可以看到每10秒處理量在270萬-310萬之間,對應每秒30萬左右QPS。

僅需要很少的機器,即可完成海量key的實時探測計算推送任務。比擴容redis集群規模成本低太多。

4f6327b0-6300-11ed-8abf-dac502259ad0.png513817f8-6300-11ed-8abf-dac502259ad0.png

界面效果

516ad42c-6300-11ed-8abf-dac502259ad0.png





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11041

    瀏覽量

    216051
  • MYSQL數據庫
    +關注

    關注

    0

    文章

    96

    瀏覽量

    9777
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    redis數據傾斜的原因以及應對方案 JD開源hotkey的源碼解析

    之前旁邊的小伙伴問我熱點數據相關問題,在給他粗略的講解一波redis數據傾斜的案例之后,自己也順道回顧了一些關于熱點數據處理的方法論,同時也想起去年所學習JD開源項目
    的頭像 發表于 09-29 10:35 ?2163次閱讀

    釋電紅外探測器相關資料

    釋電紅外探測器相關資料
    發表于 04-02 09:37

    Core-3399-JD4更新固件介紹

    1、Core-3399-JD4更新固件介紹Core-3399-JD4 有2種工作模式。一般情況下,開機直接進入Normal 模式正常啟動系統。如需對板子系統進行升級,可以根據情況選擇合適的升級模式
    發表于 06-30 18:14

    釋電探測器及釋電效應與應用的介紹

    本文介紹釋電效應的定義,鐵電晶體和釋電性與釋電探測器等知識的詳述。
    發表于 11-17 15:00 ?28次下載
    <b class='flag-5'>熱</b>釋電<b class='flag-5'>探測</b>器及<b class='flag-5'>熱</b>釋電效應與應用的<b class='flag-5'>介紹</b>

    探測器和光電發射探測器等光輻射探測技術的解析

    本文介紹了光輻射探測器基礎、探測器、光電發射探測器和光電導等光輻射探測技術的
    發表于 11-18 11:26 ?11次下載
    <b class='flag-5'>熱</b><b class='flag-5'>探測</b>器和光電發射<b class='flag-5'>探測</b>器等光輻射<b class='flag-5'>探測</b>技術的解析

    探測器分類

    本視頻主要詳細介紹探測器分類,探測器常被分為四種:氣動探測器(高萊管)、熱電偶或熱電堆、熱
    的頭像 發表于 12-19 15:46 ?6033次閱讀

    釋電紅外探測器的測量原理解析

    釋電紅外探測器簡稱釋電探測器,是近十年來在探測領域得到重要發展的一種新型
    發表于 11-20 15:19 ?5210次閱讀

    釋電探測器的特點及原理解析

    釋電紅外探測器簡稱釋電探測器,是近十年來在探測領域得到重要發展的一種新型
    的頭像 發表于 03-07 13:50 ?1.6w次閱讀

    探測器和光子探測器的區別

    探測器的換能過程包括阻效應、伏效應(珀耳帖(%1tier)效應的可逆性)、熱氣FAN7530MX動效應和釋電效應等。光子
    發表于 03-05 14:19 ?1.1w次閱讀
    <b class='flag-5'>熱</b><b class='flag-5'>探測</b>器和光子<b class='flag-5'>探測</b>器的區別

    JD-hotkey是京東APP 臺數據探測框架

    在高并發寫入的同時,對外推送目前性能約平穩推送每秒10-12萬次,譬如有1千臺server,一臺worker上每秒產生了100個key,那么這1秒會平穩推送100 * 1000 = 10萬次,10
    的頭像 發表于 11-14 15:58 ?1054次閱讀

    紅外探測器——探測器詳解

    紅外探測器是紅外成像儀的核心器件,是探測、識別和分析物體的關鍵。紅外探測器的分類有多種形式,按工作原理劃分為紅外探測器可分為
    的頭像 發表于 11-08 11:43 ?3416次閱讀
    紅外<b class='flag-5'>探測</b>器——<b class='flag-5'>熱</b><b class='flag-5'>探測</b>器詳解

    紅外成像探測器及紅外機芯選型指導

    紅外成像機芯的技術參數有很多,包括探測器分辨率、視場角、作用距離、NETD、測溫范圍、測溫精度、幀頻、接口、圖像處理算法等,這些技術參數分別代表什么意義,不同客戶針對不同應用場景的選擇有什么價值呢?本篇來介紹紅外
    的頭像 發表于 02-15 11:31 ?2579次閱讀
    紅外<b class='flag-5'>熱</b>成像<b class='flag-5'>探測</b>器及紅外機芯選型指導

    紅外探測器:探測器與光子探測

    紅外探測器是紅外成像技術領域的核心器件,其主要用于檢測物體發出的紅外輻射。按照探測器原理不同,紅外探測器通??梢苑譃閮纱箢悾?b class='flag-5'>熱
    的頭像 發表于 07-19 17:12 ?2652次閱讀
    紅外<b class='flag-5'>探測</b>器:<b class='flag-5'>熱</b><b class='flag-5'>探測</b>器與光子<b class='flag-5'>探測</b>器

    探索紅外成像探測器的基礎原理

    紅外成像探測器究竟是什么?它是如何工作的呢?讓我們一起來揭秘。紅外成像探測器:神奇的熱能揭示者紅外探測器可獲得物體表面的溫度場分布圖像,
    的頭像 發表于 07-03 16:06 ?1499次閱讀
    探索紅外<b class='flag-5'>熱</b>成像<b class='flag-5'>探測</b>器的基礎原理

    解粒子探測器與什么相似

    解粒子探測器與某些類型的火災探測器在功能和原理上有相似之處,但并非完全等同。以下是一些與解粒子探測器相似的
    的頭像 發表于 09-25 14:57 ?765次閱讀
    主站蜘蛛池模板: 午夜影院操| 五月婷亚洲 | 亚洲成色999久久网站 | 国产一级特黄老妇女大片免费 | 国产色系视频在线观看免费 | 色视频在线观看完整免费版 | 天天干狠狠插 | 色一欲一性一乱一区二区三区 | 免费午夜不卡毛片 | 一级毛片一片毛 | 五月婷婷丁香综合网 | 国产精品久久久久久久免费大片 | 精品久久看 | 97影院理论| 5566成人免费视频观看 | 久久久久久久久久久9精品视频 | 99视频网站 | 一级特黄视频 | 男人j进女人j的一进一出视频 | 亚洲卡5卡6卡7国色天香 | 欧美精品网站 | 国产三级久久久精品三级 | 1000部啪啪未满十八勿入中国 | 美女被艹视频网站 | 国产精品久久久久久久久久影院 | 高清一区二区三区 | 日本动漫天堂 | 男男互攻h啪肉np文厉世 | 成 人 黄 色视频免费播放 | 天堂中文字幕在线 | www.九九热| 日日操日日射 | 年下系列高h文 | 免费看一级特黄a大片 | 亚洲天堂免费在线 | 欧美一级高清黄图片 | 日本一区三区二区三区四区 | 亚洲 欧美 丝袜 制服 在线 | 黄网站播放 | 狼狼鲁狼狼色 | 色多多在线视频 |