與NVIDIA MIG的集成可通過一鍵式交付按需的ML / DL工作負(fù)載的單個(gè)GPU的多個(gè)實(shí)例,從而提高性能
cnvrg.io用于機(jī)器學(xué)習(xí)的AI OS宣布將NVIDIA多實(shí)例GPU(MIG)技術(shù)與其數(shù)據(jù)科學(xué)平臺(tái)進(jìn)行了原生集成。cnvrg.io是第一個(gè)集成MIG的ML平臺(tái),這是一項(xiàng)突破性的新功能,可以將每個(gè)NVIDIA A100 GPU劃分為多達(dá)七個(gè)加速器,以實(shí)現(xiàn)最佳利用率,從而有效地?cái)U(kuò)展對(duì)每個(gè)用戶和應(yīng)用程序的訪問權(quán)限。此次集成是在發(fā)布NVIDIA A100 Tensor Core GPU和NVIDIA DGX A100系統(tǒng)以及cnvrg.io的NVIDIA DGX-Ready Software程序作為AI工作流解決方案的認(rèn)證之后進(jìn)行的。
NVIDIA GPU是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)工作負(fù)載的強(qiáng)大動(dòng)力。全新的NVIDIA A100 Tensor Core GPU在AI,數(shù)據(jù)分析和HPC工作負(fù)載的各個(gè)規(guī)模上均提供了前所未有的加速,以應(yīng)對(duì)全球最棘手的計(jì)算挑戰(zhàn)。作為NVIDIA數(shù)據(jù)中心平臺(tái)的引擎,A100可以有效地?cái)U(kuò)展至數(shù)千個(gè)GPU,并且借助MIG,可以將其劃分為七個(gè)獨(dú)立的GPU實(shí)例,以加速各種規(guī)模的AI工作負(fù)載。
由于存在如此巨大的可變性,因此資源管理至關(guān)重要。基礎(chǔ)架構(gòu)團(tuán)隊(duì)需要MLOps,以及分配,安排,共享和監(jiān)視MIG資源利用率的方法。這就是cnvrg.io數(shù)據(jù)科學(xué)平臺(tái)快速發(fā)展的地方,并提供了具有自助服務(wù)資源管理,元計(jì)劃和MLOps功能的MIG集成。
-
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8500瀏覽量
134508 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5560瀏覽量
122751 -
數(shù)據(jù)科學(xué)
+關(guān)注
關(guān)注
0文章
168瀏覽量
10469
發(fā)布評(píng)論請(qǐng)先 登錄
ITEN與A*STAR IME宣布突破性固態(tài)電池的先進(jìn)封裝整合
NVIDIA實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強(qiáng)功能
中科創(chuàng)達(dá)旗下MM Solutions推出突破性視頻降噪算法
藍(lán)橋杯的第一個(gè)項(xiàng)目,點(diǎn)亮一個(gè)LED

亞馬遜云科技發(fā)布Amazon Bedrock新功能
高通第一代驍龍W5可穿戴平臺(tái)的功能特性
ADS1299在DAISY-CHAIN模式下只能配置第一個(gè)AD嗎,那后面幾個(gè)都是要怎么配置寄存器,都和第一個(gè)一樣嗎?
微軟新功能:Windows與iPhone互聯(lián)
AMD獲得一項(xiàng)玻璃基板技術(shù)專利
Vivado中DDRX控制器(mig)ip核配置中關(guān)于命令序號(hào)選擇和地址映射說明

AMD推出了Versal Premium Series Gen 2,這是業(yè)界第一個(gè)支持CXL 3.1和PCIe Gen6的FPGA平臺(tái)。

全新NVIDIA NIM微服務(wù)實(shí)現(xiàn)突破性進(jìn)展
為空間受限的應(yīng)用提供突破性的動(dòng)力

蘋果獲得一項(xiàng)突破性智能戒指技術(shù)的專利
拿下多個(gè)“世界第一”,TDK InvenSense 陀螺儀大有來頭

評(píng)論