在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為什么做一款抗丟包音頻編解碼器?

BYXG_shengwang ? 來源:聲網Agora ? 2019-11-19 16:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

10 月 24 日,RTC 2019 第五屆實時互聯網大會在北京悠唐皇冠假日酒店如期舉行。在下午的編解碼技術專場上,聲網Agora技術VP高澤華正式宣布,開源聲網自研抗丟包音頻編解碼器Agora SOLO。

目前,編解碼器的源代碼已經開源在 Github

為什么做一款抗丟包音頻編解碼器?

在近些年比較火的應用場景有這么幾類:游戲,比如多人在線對戰游戲、狼人殺等,多人組隊,還需要實時語音;互動直播,比如主播與觀眾連麥、主播與其他主播進行跨直播間連麥,需要實時的互動;在線教育,其中有很多細分的場景,1 對 1、1 對多、雙師等,在當前互動網絡教育中最難解決的問題還是實時性,就是老師跟學生怎么能夠更好的互動。 以上這些實時互動場景,在當前網絡環境下,給技術提出了更高的要求,既要低延時,又要實現高質量的音視頻互動。但是,如果承載信息的包沒有按時到達,即出現丟包,就會產生聲音斷斷續續、音質低等情況,直接影響實時互動的質量。然而,傳統的抗丟包策略不是會浪費帶寬,就是會影響音頻質量,所以我們結合信源和信道編碼的特點,利用充分包交換網絡的特性,基于此,研發出了聲網新的編解碼器——Agora SOLO。

Agora SOLO 是什么?

Agora SOLO(以下簡稱“SOLO”)是由聲網Agora自主研發的一款面向不穩定網絡的音頻編解碼器,它以 Silk 為基礎,融合了帶寬擴展(BWE)和多描述編碼(MDC)等技術,使其能在較低復雜度下擁有弱網對抗能力。SOLO 編解碼器兼容WebRTC,可集成到基于 WebRTC 自主研發的產品中。

圖 1. SOLO編碼器架構

圖2. SOLO解碼器架構

SOLO的抗丟包策略與傳統方法不同。從通信原理來說,信源編碼是盡可能去追求高壓縮比,去冗余。而信道編碼是追求強糾錯,靠加冗余來實現糾錯。Agora SOLO就是把加冗余和減冗余結合起來,不重要的地方減冗余,重要的地方加冗余。 在傳輸過程中,它會將一個包拆分為兩個進行傳輸,如果對端收到其中一個,則解碼恢復出一個有限失真的信號;如果對端收到兩個包,則可解碼恢復出一個高質量的信號。即 SOLO不需要等待對當前網絡丟包狀態的統計,只需要直接把抗丟包做到編解碼內部。好處有三點:1.可實現更低延時;2.可實現更高質量,當收到一個包時質量達到的普通編解碼器水平,收到兩個包達到高質量編解碼水平;3. 可面向多人環境。

SOLO 關鍵技術

01 帶寬擴展

SOLO 使用帶寬擴展的主要原因是希望減少計算復雜度,在 Silk WB 模式中,16khz 的信號都會進入后續處理模塊,而對于語音來說,8khz 以上的信息是非常少的,這部分信息進入到后續處理模塊,會帶來一定的計算資源浪費。MDC 因為要引入額外分析模塊處理多條碼流,又會引入額外的復雜度,這是 MDC 在近些年來落地不順暢的重要原因之一。為了減少復雜度,我們在編碼寬帶信號前,將其分為 0-8k 的窄帶信息和 8-16k 的高頻信息。只有窄帶信息會進入到后續正常分析、編碼流程中,這樣后續的計算量就減少了一半,同時得益于帶寬擴展算法,整體質量不會有明顯下降。高頻信息部分,SOLO 使用獨立的分析與編碼模塊,默認將高頻信息壓縮成 1.6kbps 的碼流。這部分高頻信息可以在解碼器內結合低頻信號恢復出高頻信號。

02 結合 delay-decision 的 MDC

在 Silk 中,delay-decision 模塊是一個滯后計算編碼誤差的模塊,它可以從多個候選碼流中選擇誤差最小的碼流作為編碼輸出,一定程度上來說,它使得標量量化擁有了矢量量化的性能。SOLO 利用 delay-decision 模塊,實現了多描述碼流的分析與構建。SOLO 的MDC主要作用于濾波器輸出的殘差信號, SOLO 會根據當前信號狀態,對殘差信號做多增益控制:計算出 MD 增益 a(0

圖 3. 多描述殘差信號產生

隨后,這兩段殘差信號會進入到新的 delay-decision 模塊中,每個殘差信號使用不同的抖動和量化方法,一共可以產生 8 種不同的備選狀態,兩兩組合起來共有 64 種備選合成狀態,新的 delay-decision 模塊會對每個殘差信號的獨立誤差和兩個殘差信號的合成誤差進行加權求和,決定出最佳的兩個殘差信號進入到編碼模塊。

03 輸出碼流組包

圖 4. 編碼器碼流整合及組包

SOLO 默認配置為每次輸入 40ms(2 幀),輸出兩段互補的多描述碼流,解碼器接收到任一段碼流,即可解碼出 40ms 的信號。為了方便接收端區分碼流的順序,碼流第一個字節的右數第 4 個 bit 是碼流順序標志位,第一段碼流標志位的值是 0,第二段碼流標志位的值是 1。接收端在進行碼流處理時,可依據此標志位進行碼流順序判斷。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 解碼器
    +關注

    關注

    9

    文章

    1164

    瀏覽量

    41820
  • 音頻
    +關注

    關注

    29

    文章

    3030

    瀏覽量

    83211

原文標題:聲網Agora開源抗丟包音頻編解碼器Agora SOLO

文章出處:【微信號:shengwang-agora,微信公眾號:聲網Agora】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AI玩具爆發,音頻編解碼器如何滿足語音交互需求

    電子發燒友網綜合報道,在AI玩具已經開始逐漸爆發的當下,人機交互已經成為標配功能,而最重要的便是語音控制。而語音控制的第步,便需要讓AI玩具聽懂你在說什么這就需要用到音頻編解碼器。 ? 音頻
    的頭像 發表于 06-20 01:07 ?5991次閱讀

    TPS65950 集成電源管理 IC (PMIC),具有 3 個 DC/DC、11 個 LDO、音頻編解碼器、USB HS收發數據手冊

    TPS65950 器件是一款高度集成的電源管理和音頻編碼/解碼器編解碼器)集成電路 (IC),支持 OMAP? 應用處理
    的頭像 發表于 04-28 14:38 ?243次閱讀
    TPS65950 集成電源管理 IC (PMIC),具有 3 個 DC/DC、11 個 LDO、<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>、USB HS收發<b class='flag-5'>器</b>數據手冊

    TWL6040 用于便攜式應用的 8 通道高質量低功耗音頻編解碼器數據手冊

    TWL6040 設備是具有高集成度的音頻編碼/解碼器編解碼器),可為便攜式應用程序提供模擬音頻編解碼
    的頭像 發表于 04-27 17:52 ?363次閱讀
    TWL6040 用于便攜式應用的 8 通道高質量低功耗<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>數據手冊

    TWL6041 用于便攜式應用的 8 通道高質量低功耗音頻編解碼器數據手冊

    TWL6041 是種具有高集成度的音頻編解碼器,為便攜式應用程序提供模擬音頻編解碼器功能,如 所示。該設備包含多個
    的頭像 發表于 04-27 14:55 ?351次閱讀
    TWL6041 用于便攜式應用的 8 通道高質量低功耗<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>數據手冊

    國芯思辰| 單聲道音頻編解碼器SC2601應用于錄音筆,替換ES8311

    國芯思辰| 單聲道音頻編解碼器SC2601應用于錄音筆,替換ES8311
    的頭像 發表于 01-07 10:33 ?659次閱讀
    國芯思辰| 單聲道<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>SC2601應用于錄音筆,替換ES8311

    TLV320AIC28音頻編解碼器評估模塊

    電子發燒友網站提供《TLV320AIC28音頻編解碼器評估模塊.pdf》資料免費下載
    發表于 12-20 16:02 ?0次下載
    TLV320AIC28<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>評估模塊

    替換ES8311,音頻編解碼器SC2601在行車記錄儀中的應用

    替換ES8311,音頻編解碼器SC2601在行車記錄儀中的應用
    的頭像 發表于 11-29 10:07 ?856次閱讀
    替換ES8311,<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>SC2601在行車記錄儀中的應用

    配置I2S以從編解碼器設備生成BCLK

    電子發燒友網站提供《配置I2S以從編解碼器設備生成BCLK.pdf》資料免費下載
    發表于 10-21 10:30 ?0次下載
    配置I2S以從<b class='flag-5'>編解碼器</b>設備生成BCLK

    TMS320F2833x與AIC23B立體聲音頻編解碼器的接口

    電子發燒友網站提供《TMS320F2833x與AIC23B立體聲音頻編解碼器的接口.pdf》資料免費下載
    發表于 10-15 09:21 ?0次下載
    TMS320F2833x與AIC23B立體聲<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>的接口

    Linux上的編解碼器移植TMS320DM365預覽版

    電子發燒友網站提供《Linux上的編解碼器移植TMS320DM365預覽版.pdf》資料免費下載
    發表于 10-14 10:53 ?0次下載
    Linux上的<b class='flag-5'>編解碼器</b>移植TMS320DM365預覽版

    TMS320DM365中的智能編解碼器功能

    電子發燒友網站提供《TMS320DM365中的智能編解碼器功能.pdf》資料免費下載
    發表于 10-14 10:24 ?0次下載
    TMS320DM365中的智能<b class='flag-5'>編解碼器</b>功能

    音頻編解碼器和ADC中有哪些常見噪聲問題,如何幫助避免這些問題?

    音頻編解碼器和 ADC 中有哪些常見噪聲問題,如何幫助避免這些問題?
    發表于 10-10 08:09

    音頻編解碼器中的常見噪聲問題

    電子發燒友網站提供《音頻編解碼器中的常見噪聲問題.pdf》資料免費下載
    發表于 10-09 10:19 ?1次下載
    <b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>中的常見噪聲問題

    一款低功率、高質量的單聲道音頻編解碼器 - CJC8911

    CJC8911是個低功率,高質量的單聲道編解碼器,設計用于便攜式數字音頻應用程序。該設備集成了完整的接口到個出線端口的接口。片上數字信號處理執行圖形均衡器,三維聲音增強和麥克風或線
    的頭像 發表于 08-08 09:39 ?931次閱讀
    <b class='flag-5'>一款</b>低功率、高質量的單聲道<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b> - CJC8911

    帶你探索HiFi智能編解碼器的奇妙世界

    HiFi智能編解碼器就像是音頻世界的魔法師,它讓我們能聽到最真實、最動人的聲音。無論是家庭音響、智能音箱,還是無線耳機和專業設備,這個小小的設備都能帶來巨大的音質提升。讓我們同期待,未來HiFi智能
    的頭像 發表于 07-18 17:20 ?1280次閱讀
    帶你探索HiFi智能<b class='flag-5'>編解碼器</b>的奇妙世界
    主站蜘蛛池模板: 欧美黄色片免费观看 | 天天操天天干天天舔 | 热九九精品 | 四虎精品成人免费观看 | 色综合天天综合给合国产 | 国产小视频在线观看www | 亚洲经典一区二区三区 | 欧美一区二区高清 | 夜夜夜夜爽 | 亚洲 午夜在线一区 | 日韩亚洲人成在线综合日本 | 影音先锋 色天使 | 在线www天堂资源网 在线播放 你懂的 | 59日本人xxxxxxxxx69 | 国产爱搞| 色婷婷综合在线视频最新 | 亚洲国产成a人v在线观看 | 国产精品天天影视久久综合网 | 俺也去第四色 | 色色色色色色色色色色色色色色 | 精品国产亚洲人成在线 | 性在线视频 | 性生大片免费观看无遮挡 | 国产香蕉75在线播放 | 午夜免费观看_视频在线观看 | 成年男人永久免费看片 | 天天做天天爱夜夜爽毛片毛片 | 二区视频在线 | 欧美视频小说 | 亚洲欧美性另类春色 | 日本黄色一级网站 | 五月六月伊人狠狠丁香网 | 伊人久久大香线蕉综合影 | 欧美尺寸又黑又粗又长 | 特黄色一级毛片 | 午夜视频福利在线 | 午夜影剧 | 色多多视频在线观看免费大全 | 免费看国产一级特黄aa大片 | 四虎影院久久久 | 91激情网|