對比 NVIDIA GPU 上的 TensorFlow,該集成使深度學習推理速度快 5 倍。
中國北京 – 2018 年 4 月 11 日 – MathWorks 今日宣布 ,MATLAB 現在可通過 GPU Coder 實現與 NVIDIA TensorRT 集成。這可以幫助工程師和科學家們在 MATLAB 中開發新的人工智能和深度學習模型,且可確保性能和效率滿足數據中心、嵌入式應用和汽車應用不斷增長的需求。
MATLAB 提供了一個完整的工作流程來快速訓練、驗證和部署深度學習模型。工程師可以使用 GPU 資源,而無需額外編程操作,因此可以專注于應用本身而不是性能調優。NVIDIA TensorRT 與 GPU Coder 的全新集成使得可以在 MATLAB 中開發深度學習模型,然后以高吞吐量低延遲的方式部署在 NVIDIA GPU 上運行。內部基準測試顯示,MATLAB 生成的CUDA代碼與 TensorRT 結合,在部署 Alexnet模型進行深度學習推理時,性能比 TensorFlow 高 5 倍;在部署 VGG-16 模型進行深度學習推理時,性能比 TensorFlow 高 1.25 倍。*
“不斷發展的圖像、語音、傳感器和物聯網 (IoT) 技術促使團隊以更好的性能和效率研究人工智能解決方案。此外,深度學習模型變得越來越復雜。所有這些都給工程師們帶來了巨大的壓力,” MathWorks 總監 David Rich 說。“現在,團隊可以使用 MATLAB 訓練深度學習模型,NVIDIA GPU 可以將實時推理部署到從云端到數據中心到嵌入式邊界設備等各種環境中。”
* 所有基準測試均在一臺使用 NVIDIA TITAN Xp GPU、64GB RAM 的 Linux 12 core Intel? Xeon? E5-1650 v3 電腦上運行,使用的軟件包括帶 GPU Coder 的 MATLAB R2018a、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7
關于 MathWorks
MathWorks 公司是數學計算軟件領域世界領先的開發商。它所推出的 MATLAB 是一種用于算法開發、數據分析、可視化和數值計算的程序設計環境,稱為“科學計算的語言”。Simulink 是一種圖形環境,可用于對多域動態系統和嵌入式系統進行仿真和基于模型設計。全球的工程師和科學家們都依賴于 MathWorks 公司所提供的這些產品家族,來加快在汽車、航空、電子、金融服務、生物醫藥以及其他行業的發明、創新及開發的步伐。除此之外,MATLAB 和 Simulink 產品還是基礎教學和研究工具,為全球眾多大學和教學機構所采用。MathWorks 創立于 1984 年,總部位于美國馬薩諸塞州內蒂克,在 15 個國家共擁有超過 3500 名員工。
-
matlab
+關注
關注
188文章
2998瀏覽量
233352 -
NVIDIA
+關注
關注
14文章
5258瀏覽量
105845 -
MathWorks
+關注
關注
16文章
80瀏覽量
61597 -
人工智能
+關注
關注
1804文章
48783瀏覽量
246853
發布評論請先 登錄
Cognizant將與NVIDIA合作部署神經人工智能平臺,加速企業人工智能應用

NVIDIA TensorRT-LLM Roadmap現已在GitHub上公開發布

ASIC集成電路在人工智能中的應用
集成電路與人工智能結合
嵌入式和人工智能究竟是什么關系?
《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感
AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感
《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得
risc-v在人工智能圖像處理應用前景分析
人工智能ai4s試讀申請
名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新
報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI
鯤云科技AI視頻分析解決方案入選人工智能典型應用示范案例

評論