在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA Triton開源推理服務軟件三大功能推動效率提升

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 作者:NVIDIA英偉達企業解 ? 2022-01-04 14:20 ? 次閱讀

Microsoft Teams借助AI生成的實時字幕和轉錄功能,幫助全球學生和職場人士順利進行在線會議。用于訓練的NVIDIA AI計算技術和用于推理語音識別模型的NVIDIA Triton推理服務器進一步提升了這兩個功能。

Microsoft Teams 是全球溝通和協作的重要工具,每月有近2.5億活躍用戶。Microsoft Azure 認知服務為Teams提供28種語言的字幕和轉錄,并將很快能夠在NVIDIA GPU上運行關鍵的計算密集型神經網絡推理。

實時字幕功能幫助與會者實時跟蹤對話,轉錄功能方便與會者在日后回顧當時的創意或回看未能參與的會議。

實時字幕對聾啞人、聽力障礙者,或者異國與會者特別有用。

NVIDIA Triton開源推理服務軟件能夠幫助Teams使用認知服務優化語音識別模型。

使用Triton,認知服務能夠支持高度先進的語言模型,以極低的延遲實時提供高度準確、個性化的語音轉文本結果。同時,可以保證運行這些語音轉文本模型的NVIDIA GPU充分發揮其潛力,在消耗更少計算資源的同時,為客戶提供更高的吞吐量,進而降低成本。

底層語音識別技術作為認知服務中的一個API,開發人員可以使用它定制和運行自己的應用程序——客服電話轉錄、智能家居控制或為急救人員提供AI助手。

字字達意的AI

認知服務會生成Teams的轉錄和字幕,將語音轉換為文本,并識別說話人。同時也能夠識別專業術語 、姓名和其他會議背景,提高字幕的準確性。

Microsoft Teams的通話、會議及設備首席項目經理Shalendra Chhabra表示:“這樣的AI模型非常復雜,需要數千萬個神經網絡參數才能識別幾十種不同的語言。但模型越大,就越難以經濟高效地實時運行。”

NVIDIA GPU和Triton軟件能夠幫助微軟在不犧牲低延遲的情況下,通過強大的神經網絡,實現高準確性,確保語音-文本的實時轉換。

當啟用轉錄功能時,與會者可以在會議結束后輕松補上錯過的內容。

Triton三大功能推動效率提升

NVIDIA Triton有助于簡化AI模型部署,并解鎖高性能推理。用戶甚至可以為自己的應用開發自定義后端。軟件的一些關鍵功能可將Microsoft Teams的字幕和轉錄功能擴展到更多會議和用戶,包括:

流推理:新型流推理功能——通過跟蹤語音上下語境,提高延遲、敏感性字幕的準確度,它助力NVIDIA和Azure認知服務合作定制語音轉文本的應用程序。

動態合批:批大小指神經網絡同時處理的輸入樣本數量。通過Triton的動態合批,單項推理請求被自動組合成一個批次,因此能夠在不影響模型延遲的情況下更好地利用GPU資源。

并發模型執行:實時字幕和轉錄需要同時運行多個深度學習模型。Triton使開發人員能夠在單個GPU上同時完成這些工作,包括使用不同深度學習框架的模型。

即刻啟程,借助Azure 認知服務,在您的應用中使用語音轉文本的功能,并進一步了解NVIDIA Triton 推理服務軟件如何幫助團隊大規模部署AI模型。

NVIDIA 將參加 CES 2022, 并將在 1 月 5 日凌晨 0 點(北京時間)發表 NVIDIA 特別演講。

NVIDIA GeForce 高級副總裁 Jeff Fisher 和 NVIDIA 汽車部門副總裁兼總經理 Ali Kani 將展示加速計算在設計、仿真、游戲和自動駕駛汽車方面的新突破。掃描下方海報,即刻將該日程添加到日歷!

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5226

    瀏覽量

    105656
  • 功能
    +關注

    關注

    3

    文章

    589

    瀏覽量

    29658
  • 開源
    +關注

    關注

    3

    文章

    3569

    瀏覽量

    43392

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業加速代理式AI推理

    Oracle 數據庫與 NVIDIA AI 相集成,使企業能夠更輕松、快捷地采用代理式 AI Oracle 和 NVIDIA 宣布,NVIDIA 加速計算和推理
    的頭像 發表于 03-21 12:01 ?511次閱讀
    英偉達GTC2025亮點:Oracle與<b class='flag-5'>NVIDIA</b>合作助力企業加速代理式AI<b class='flag-5'>推理</b>

    英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發布了開源推理軟件 NVIDIA Dynamo,旨在以高
    的頭像 發表于 03-20 15:03 ?531次閱讀

    Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎設施以及生成式 AI 服務
    發表于 03-19 15:24 ?297次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力企業加速代理式 AI <b class='flag-5'>推理</b>

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業節省了數百萬美元。
    的頭像 發表于 02-08 09:59 ?589次閱讀
    使用<b class='flag-5'>NVIDIA</b><b class='flag-5'>推理</b>平臺提高AI<b class='flag-5'>推理</b>性能

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經過優化的推理服務可幫助企業提高生成式 AI 應用的安全性、精準性
    發表于 01-17 16:29 ?139次閱讀

    借助NVIDIA GPU提升魯班系統CAE軟件計算效率

    本案例中魯班系統高性能 CAE 軟件利用 NVIDIA 高性能 GPU,實現復雜產品的快速仿真,加速產品開發和設計迭代,縮短開發周期,提升產品競爭力。
    的頭像 發表于 12-27 16:24 ?520次閱讀

    Triton編譯器如何提升編程效率

    在現代軟件開發中,編譯器扮演著至關重要的角色。它們不僅將高級語言代碼轉換為機器可執行的代碼,還通過各種優化技術提升程序的性能。Triton 編譯器作為一種先進的編譯器,通過多種方式提升
    的頭像 發表于 12-25 09:12 ?641次閱讀

    Triton編譯器在機器學習中的應用

    1. Triton編譯器概述 Triton編譯器是NVIDIA Triton推理服務平臺的一部分
    的頭像 發表于 12-24 18:13 ?833次閱讀

    Triton編譯器功能介紹 Triton編譯器使用教程

    Triton 是一個開源的編譯器前端,它支持多種編程語言,包括 C、C++、Fortran 和 Ada。Triton 旨在提供一個可擴展和可定制的編譯器框架,允許開發者添加新的編程語言特性和優化技術
    的頭像 發表于 12-24 17:23 ?1422次閱讀

    NVIDIA助力提供多樣、靈活的模型選擇

    在本案例中,Dify 以模型中立以及開源生態的優勢,為廣大 AI 創新者提供豐富的模型選擇。其集成的 NVIDIAAPI Catalog、NVIDIA NIM和Triton 推理
    的頭像 發表于 09-09 09:19 ?828次閱讀

    魔搭社區借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區是中國最具影響力的模型開源社區,致力給開發者提供模型即服務的體驗。魔搭社區利用NVIDIA TensorRT-LLM,大大提高了大語言模型的推理性能,方便了模型應用部署,提高
    的頭像 發表于 08-23 15:48 ?897次閱讀

    全新 NVIDIA NeMo Retriever微服務大幅提升LLM的準確性和吞吐量

    企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理服務,充分挖掘業務數據的價值。這些微服務現已集成到 Cohesit
    的頭像 發表于 07-26 11:13 ?1154次閱讀
    全新 <b class='flag-5'>NVIDIA</b> NeMo Retriever微<b class='flag-5'>服務</b>大幅<b class='flag-5'>提升</b>LLM的準確性和吞吐量

    NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA NIM(NVIDIA Inference
    的頭像 發表于 07-25 16:57 ?756次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推理服務
    的頭像 發表于 07-25 09:48 ?953次閱讀

    英偉達推出AI模型推理服務NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務——NVIDIA NIM。這項服務將極大地簡化AI模型部署過程,為全球的2800萬英偉達開發者提供前所未有的便利。
    的頭像 發表于 06-04 09:15 ?895次閱讀
    主站蜘蛛池模板: 奇米影视亚洲四色8888 | 久久国产精品无码网站 | 在线观看中文字幕一区 | 国产色妞妞在线观看 | 好男人社区www在线资源视频 | 国产一区国产二区国产三区 | a成人在线| 亚洲区一二三四区2021 | 国模吧一区二区三区精品视频 | 天天干天天操天天插 | 菲菲国产在线观看 | 男男生子大肚play做到生 | 女色专区 | 老师喂我吃她的奶水脱她胸罩 | 黄色一级a毛片 | 性xxxx欧美| 日本大片在线看 | www.av片| 日本三区四区免费高清不卡 | 精品三级在线 | 最近高清在线视频观看免费 | 亚洲免费影视 | 亚洲情a成黄在线观看动 | 久草资源网站 | 日日摸夜夜添免费毛片小说 | 男男宿舍高h炒肉bl 男男污肉高h坐便器调教 | 国产拍拍1000部ww | 中文字幕一区二区精品区 | 色久优优 | 天天做天天做天天综合网 | 色猫成人网 | 天堂福利视频 | 女人午夜啪啪性刺激免费看 | 欧美日韩国产在线一区 | 免费一级毛片不卡在线播放 | 国产天天射 | 国模私拍在线 | 最新四虎4hu影库地址在线 | 中国女人a毛片免费全部播放 | 黄 色 成 年人网站 黄 色 成 年人在线 | 天天视频免费观看高清影视 |