在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA Triton開源推理服務軟件三大功能推動效率提升

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 作者:NVIDIA英偉達企業解 ? 2022-01-04 14:20 ? 次閱讀

Microsoft Teams借助AI生成的實時字幕和轉錄功能,幫助全球學生和職場人士順利進行在線會議。用于訓練的NVIDIA AI計算技術和用于推理語音識別模型的NVIDIA Triton推理服務器進一步提升了這兩個功能。

Microsoft Teams 是全球溝通和協作的重要工具,每月有近2.5億活躍用戶。Microsoft Azure 認知服務為Teams提供28種語言的字幕和轉錄,并將很快能夠在NVIDIA GPU上運行關鍵的計算密集型神經網絡推理。

實時字幕功能幫助與會者實時跟蹤對話,轉錄功能方便與會者在日后回顧當時的創意或回看未能參與的會議。

實時字幕對聾啞人、聽力障礙者,或者異國與會者特別有用。

NVIDIA Triton開源推理服務軟件能夠幫助Teams使用認知服務優化語音識別模型。

使用Triton,認知服務能夠支持高度先進的語言模型,以極低的延遲實時提供高度準確、個性化的語音轉文本結果。同時,可以保證運行這些語音轉文本模型的NVIDIA GPU充分發揮其潛力,在消耗更少計算資源的同時,為客戶提供更高的吞吐量,進而降低成本。

底層語音識別技術作為認知服務中的一個API,開發人員可以使用它定制和運行自己的應用程序——客服電話轉錄、智能家居控制或為急救人員提供AI助手。

字字達意的AI

認知服務會生成Teams的轉錄和字幕,將語音轉換為文本,并識別說話人。同時也能夠識別專業術語 、姓名和其他會議背景,提高字幕的準確性。

Microsoft Teams的通話、會議及設備首席項目經理Shalendra Chhabra表示:“這樣的AI模型非常復雜,需要數千萬個神經網絡參數才能識別幾十種不同的語言。但模型越大,就越難以經濟高效地實時運行。”

NVIDIA GPU和Triton軟件能夠幫助微軟在不犧牲低延遲的情況下,通過強大的神經網絡,實現高準確性,確保語音-文本的實時轉換。

當啟用轉錄功能時,與會者可以在會議結束后輕松補上錯過的內容。

Triton三大功能推動效率提升

NVIDIA Triton有助于簡化AI模型部署,并解鎖高性能推理。用戶甚至可以為自己的應用開發自定義后端。軟件的一些關鍵功能可將Microsoft Teams的字幕和轉錄功能擴展到更多會議和用戶,包括:

流推理:新型流推理功能——通過跟蹤語音上下語境,提高延遲、敏感性字幕的準確度,它助力NVIDIA和Azure認知服務合作定制語音轉文本的應用程序。

動態合批:批大小指神經網絡同時處理的輸入樣本數量。通過Triton的動態合批,單項推理請求被自動組合成一個批次,因此能夠在不影響模型延遲的情況下更好地利用GPU資源。

并發模型執行:實時字幕和轉錄需要同時運行多個深度學習模型。Triton使開發人員能夠在單個GPU上同時完成這些工作,包括使用不同深度學習框架的模型。

即刻啟程,借助Azure 認知服務,在您的應用中使用語音轉文本的功能,并進一步了解NVIDIA Triton 推理服務軟件如何幫助團隊大規模部署AI模型。

NVIDIA 將參加 CES 2022, 并將在 1 月 5 日凌晨 0 點(北京時間)發表 NVIDIA 特別演講。

NVIDIA GeForce 高級副總裁 Jeff Fisher 和 NVIDIA 汽車部門副總裁兼總經理 Ali Kani 將展示加速計算在設計、仿真、游戲和自動駕駛汽車方面的新突破。掃描下方海報,即刻將該日程添加到日歷!

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5080

    瀏覽量

    103826
  • 功能
    +關注

    關注

    3

    文章

    589

    瀏覽量

    29376
  • 開源
    +關注

    關注

    3

    文章

    3412

    瀏覽量

    42742

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業節省了數百萬美元。
    的頭像 發表于 02-08 09:59 ?202次閱讀
    使用<b class='flag-5'>NVIDIA</b><b class='flag-5'>推理</b>平臺提高AI<b class='flag-5'>推理</b>性能

    借助NVIDIA GPU提升魯班系統CAE軟件計算效率

    本案例中魯班系統高性能 CAE 軟件利用 NVIDIA 高性能 GPU,實現復雜產品的快速仿真,加速產品開發和設計迭代,縮短開發周期,提升產品競爭力。
    的頭像 發表于 12-27 16:24 ?247次閱讀

    Triton編譯器如何提升編程效率

    在現代軟件開發中,編譯器扮演著至關重要的角色。它們不僅將高級語言代碼轉換為機器可執行的代碼,還通過各種優化技術提升程序的性能。Triton 編譯器作為一種先進的編譯器,通過多種方式提升
    的頭像 發表于 12-25 09:12 ?350次閱讀

    Triton編譯器在機器學習中的應用

    1. Triton編譯器概述 Triton編譯器是NVIDIA Triton推理服務平臺的一部分
    的頭像 發表于 12-24 18:13 ?531次閱讀

    Triton編譯器功能介紹 Triton編譯器使用教程

    Triton 是一個開源的編譯器前端,它支持多種編程語言,包括 C、C++、Fortran 和 Ada。Triton 旨在提供一個可擴展和可定制的編譯器框架,允許開發者添加新的編程語言特性和優化技術
    的頭像 發表于 12-24 17:23 ?684次閱讀

    NVIDIA助力提供多樣、靈活的模型選擇

    在本案例中,Dify 以模型中立以及開源生態的優勢,為廣大 AI 創新者提供豐富的模型選擇。其集成的 NVIDIAAPI Catalog、NVIDIA NIM和Triton 推理
    的頭像 發表于 09-09 09:19 ?545次閱讀

    魔搭社區借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區是中國最具影響力的模型開源社區,致力給開發者提供模型即服務的體驗。魔搭社區利用NVIDIA TensorRT-LLM,大大提高了大語言模型的推理性能,方便了模型應用部署,提高
    的頭像 發表于 08-23 15:48 ?538次閱讀

    全新 NVIDIA NeMo Retriever微服務大幅提升LLM的準確性和吞吐量

    企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理服務,充分挖掘業務數據的價值。這些微服務現已集成到 Cohesit
    的頭像 發表于 07-26 11:13 ?939次閱讀
    全新 <b class='flag-5'>NVIDIA</b> NeMo Retriever微<b class='flag-5'>服務</b>大幅<b class='flag-5'>提升</b>LLM的準確性和吞吐量

    NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA NIM(NVIDIA Inference
    的頭像 發表于 07-25 16:57 ?604次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推理服務
    的頭像 發表于 07-25 09:48 ?797次閱讀

    英偉達推出AI模型推理服務NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務——NVIDIA NIM。這項服務將極大地簡化AI模型部署過程,為全球的2800萬英偉達開發者提供前所未有的便利。
    的頭像 發表于 06-04 09:15 ?737次閱讀

    NVIDIA與Google DeepMind合作推動大語言模型創新

    支持 NVIDIA NIM 推理服務的谷歌最新開源模型 PaliGemma 首次亮相。
    的頭像 發表于 05-16 09:44 ?515次閱讀

    NVIDIA加速微軟最新的Phi-3 Mini開源語言模型

    NVIDIA 宣布使用 NVIDIA TensorRT-LLM 加速微軟最新的 Phi-3 Mini 開源語言模型。TensorRT-LLM 是一個開源庫,用于優化從 PC 到云端的
    的頭像 發表于 04-28 10:36 ?648次閱讀

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將推理的稠密網絡和熱
    的頭像 發表于 04-20 09:39 ?830次閱讀

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?637次閱讀
    主站蜘蛛池模板: 久青草国产高清在线视频 | 亚洲毛片网站 | 神马三级我不卡 | 最近2018年中文字幕在线 | 国产无套粉嫩白浆 | 天堂bt| 丁香六月婷婷激情 | 三级视频网 | 日夜操在线视频 | 亚洲你xx我xx网站 | 亚洲综合在线观看一区www | 国产码一区二区三区 | 欧美最猛黑人xxxx黑人猛交69 | 57pao强力打造免费高清高速 | 日本黄色免费片 | 免费三级黄色 | 亚洲国产精品乱码一区二区三区 | 国产美女久久久久 | 男女交性动态免费视频 | 天天躁夜夜躁狠狠躁2018a | 美女视频黄a视频免费全过程 | 精品国产中文一级毛片在线看 | 日韩一卡 二卡 三卡 四卡 免费视频 | 天天干夜夜操视频 | 亚洲已满18点击进入在线观看 | 国产亚洲自在精品久久 | 久久伊人精品青青草原高清 | 精品国产三级在线观看 | 四虎在线观看免费视频 | 玖玖草在线观看 | 操片免费 | 国产综合视频 | 国产精品福利一区 | 成人免费淫片95视频观看网站 | 波多野结衣在线观看一区二区 | 人人搞人人干 | 色视频在线观看完整免费版 | 欧美色图综合网 | 色吧在线视频 | 色妞网站 | 91大神精品在线观看 |