在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

從GPU資源的虛擬化實現路徑看

SSDFans ? 來源:ssdfans ? 作者:ssdfans ? 2020-12-14 16:27 ? 次閱讀

GPU小常識:

GPU(Graphics Processing Unit),中文名:圖形處理器,曾用名:顯卡。

1999年,Nvidia(英偉達公司“ZAO”了GPU,這玩意除了極大的推動了基于PC的游戲市場發展,還徹底改變了并行計算。

沒想到二十年后,Nvidia搖身一變成了高大上的AI計算公司,還用GPU綁架了整個人工智能圈子。

我有個客戶,幾年前新建了一個數據中心,通過P2V技術淘汰了大量X86物理服務器,直接在IT基礎設施上成功完成了服務器虛擬化轉型,之后就馬不停蹄的向云計算轉型,而當下,又開始了人工智能轉型。

隨著智能商業時代的到來,一些大公司對于AI技術的關注和使用也快速增加,這些企業都非常注重自身科技能力的構建。其中,搭建自有AI平臺,賦能業務成了這些有實力企業的首選。我這個客戶自然也不能免俗,采購了大量的GPU服務器進行部署。

在落地AI場景的同時,客戶也希望對建立GPU資源池做一個評估。針對客戶需求,做了一些功課。對于AI,我依然只是知道一點皮毛,要說什么算法和模型,我是沒戲的,但是可以把交流的學習心得分享一下。

GPU當前主要應用于計算、圖形和人工智能領域。從GPU資源的虛擬化實現路徑看,主要有三種技術方案。

VSGA(Virtual Shared Graphics Acceleration),把物理GPU分享給多個桌面用戶,每個VDI通過SVGA驅動調用虛擬化的GPU驅動程序,再來調用GPU的運算能力,這個屬于典型的桌面虛擬化場景。

VDGA(Virtual Dedicated Graphics Acceleration),把物理GPU分配給一個指定的VM,資源專用,這種模式也稱為直通(PassThrough)模式,該方案具有比較高的性能優勢,但成本相對較高。

vGPU(Virtualized GPU),把一塊物理GPU虛擬成多塊vGPU卡,每個VM都獨占一塊vGPU,每個vGPU直接跟物理GPU對接。

現實世界的應用狀況又是怎樣的呢?通過技術交流,發現傳統行業大多數的GPU資源池案例都是VDI的桌面虛擬化應用場景,針對后臺服務器虛擬化的案例幾乎沒有。在互聯網行業,像百度這樣在AI領域比較強的,用的都是自研的GPU服務器和資源調度平臺。真正的商業案例中,大量客戶使用的還是基于X86物理服務器搭配GPU卡的方式來部署AI應用。

之后,對這個客戶也有做了相應的調研。客戶現狀:針對AI技術部署了獨立的語音分析、OCR和人臉識別等多個平臺,支撐整個公司對于AI場景的需求。(目前有GPU服務器:50臺+,GPU卡:180+,后續還有200+的GPU卡擴容計劃)。針對調研情況,也做個簡要分析。

應用場景:

目前AI技術主要為兩種場景,訓練(Training)和推理(Inference),從我這個客戶的使用情況看,幾乎都是推理場景,相對訓練而言,對于GPU的算力的要求不是很高,這一點從用戶的性能數據上也有體現。客戶模型訓練都是在供應商端進行的。

技術方案:

GPU資源池只是一種概念,對于資源的形態來說,GPU是物理的還是虛擬的不是最重要的。從資源管理角度看,主要是考慮利用效率、訪問性能、安全隔離等因素。

如果是物理服務器方案,上層最佳的部署形式的直接基于容器,但是現實情況是大多數用戶的應用部署還是基于PM和VM的。另外,也可以考慮基于服務器虛擬化+多GPU卡的方案,一個VM對應一個GPU卡的直通模式,但是應用密度顯然受制于GPU卡的數量,如果這時再追加使用vGPU技術,似乎方案在VM技術平臺上就更完美了,當然容器嵌套VM的方案也是一種好的形式。

商務成本:

成熟的商業虛擬化軟件是有軟件許可費的,而Nvidia的vGPU技術也需要支付相應的軟件許可費,這樣每個GPU卡可以根據顯存的不同配置,被切分為固定數量的vGPU,在相同數據物理GPU卡配置情況下,提升VM的部署密度。

其他因素:

當然,目前的“AI芯片”也不是只有Nvidia一家,國內的寒武紀和華為也都用相應的產品支撐AI應用,對于主流的TensorFlow,Cafee框架可能還可以,但對于其他框架和模型在支持上略顯不足,還需要加強生態建設。畢竟連英偉達都聲稱自己是一家軟件研發公司。在這個Software Define Anything的時代,軟實力才是真正貼近用戶的硬實力。

關于建立后臺支撐AI算力的GPU資源池這件事,技術本身并不存在限制,是個具有規模效應的事情。如果規模大了,也許百度的“孔明”平臺就是一個需要達到的高度。至于其他公有云服務商,現在也都提供了相應的GPU服務,等有機會再去調研一下。

啥叫Deep Learning?就是這種不斷學習更新,還要用輸出倒逼輸入的方式!

責任編輯:lq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4779

    瀏覽量

    129374
  • 服務器
    +關注

    關注

    12

    文章

    9317

    瀏覽量

    86083
  • 虛擬化
    +關注

    關注

    1

    文章

    384

    瀏覽量

    29859

原文標題:GPU虛擬化,看這一篇就夠了!

文章出處:【微信號:SSDFans,微信公眾號:SSDFans】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    hyper v 虛擬,Hyper-V 虛擬:Hyper-V虛擬的最佳實踐

    :Hyper-V虛擬的最佳實踐。 ? ?在當今的IT環境中,Hyper-V虛擬技術被廣泛應用于企業級和數據中心環境中,以實現
    的頭像 發表于 02-07 10:24 ?36次閱讀
    hyper v <b class='flag-5'>虛擬</b><b class='flag-5'>化</b>,Hyper-V <b class='flag-5'>虛擬</b><b class='flag-5'>化</b>:Hyper-V<b class='flag-5'>虛擬</b><b class='flag-5'>化</b>的最佳實踐

    hyper v 虛擬,hyper-v虛擬:企業級虛擬化解決方案的全面解析

    化解決方案的全面解析。 ? ?在當今數字轉型的浪潮中,企業對高效、靈活且可靠的虛擬化解決方案的需求日益增長。Hyper-V作為微軟提供的企業級虛擬技術,憑借其強大的功能、廣泛的兼容
    的頭像 發表于 01-24 14:21 ?159次閱讀
    hyper v <b class='flag-5'>虛擬</b><b class='flag-5'>化</b>,hyper-v<b class='flag-5'>虛擬</b><b class='flag-5'>化</b>:企業級<b class='flag-5'>虛擬</b>化解決方案的全面解析

    RAID 5 在虛擬環境中的應用

    隨著信息技術的飛速發展,虛擬技術已經成為數據中心和企業IT基礎設施的重要組成部分。虛擬技術通過在單一物理服務器上運行多個虛擬機(VMs)
    的頭像 發表于 12-27 17:18 ?419次閱讀

    GPU加速云服務器怎么用的

    GPU加速云服務器是將GPU硬件與云計算服務相結合,通過云服務提供商的平臺,用戶可以根據需求靈活租用帶有GPU資源虛擬機實例。那么,
    的頭像 發表于 12-26 11:58 ?130次閱讀

    如何實現軟件的emulate功能 emulation和虛擬的區別是什么

    軟件的Emulate功能與虛擬的區別 在現代計算機技術中,軟件的emulate功能和虛擬是兩個重要的概念,它們都旨在模擬或復制硬件環境,以便在不同的系統上運行軟件。盡管它們的目的相
    的頭像 發表于 12-05 15:35 ?323次閱讀

    GPU虛擬現實中的表現 低功耗GPU的優缺點

    數據,以實現沉浸式的體驗。以下是GPU虛擬現實中的幾個關鍵表現: 圖像渲染能力 :GPU需要快速渲染復雜的三維場景,以保持高幀率,這對于減少運動模糊和暈動癥至關重要。 實時光線追蹤
    的頭像 發表于 11-19 10:58 ?488次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解算力芯片GPU

    本篇閱讀學習第七、八章,了解GPU架構演進及CPGPU存儲體系與線程管理 █圖形到計算的GPU架構演進 GPU圖像計算發展 ●三角形開始
    發表于 11-03 12:55

    emc虛擬技術的應用場景

    實現資源的動態分配和優化,從而幫助企業提高運營效率和降低成本。 1. 數據中心虛擬 數據中心虛擬
    的頭像 發表于 11-01 15:26 ?430次閱讀

    GPU與VR技術結合應用

    同時處理大量數據,從而實現高速的圖形渲染。 VR技術的基本概念 虛擬現實(VR)技術是一種通過計算機生成的三維環境,讓用戶能夠沉浸在虛擬世界中的技術。VR技術通過頭戴式顯示器、手柄等設備,實現
    的頭像 發表于 10-27 11:23 ?462次閱讀

    數據中心虛擬應用案例

    數據中心虛擬應用案例展示了虛擬技術在提高資源利用率、降低成本、增強系統靈活性和快速響應等方面的顯著優勢。以下是一些具體的數據中心
    的頭像 發表于 10-24 15:18 ?665次閱讀

    云計算中的虛擬技術應用

    : 一、虛擬技術的核心原理 虛擬技術通過引入一個虛擬層(
    的頭像 發表于 10-24 09:22 ?934次閱讀

    基于DPU的輕量虛擬化解決方案

    1.? 背景、挑戰與業界進展 1.1. 虛擬技術背景 在云計算的浪潮中,虛擬技術扮演著舉足輕重的角色。它通過將物理機集群的資源進行抽象整
    的頭像 發表于 10-14 14:57 ?1030次閱讀
    基于DPU的輕量<b class='flag-5'>虛擬</b>化解決方案

    華納云:OpenStack是虛擬管理平臺嗎?其工作原理是什么?

    OpenStack 就是一個虛擬管理平臺嗎?這樣說并不準確。它們存在很多相似性,但并非完全相同。的確,OpenStack 和虛擬管理平臺都位于
    的頭像 發表于 09-23 14:20 ?398次閱讀

    什么是虛擬工廠及其如何實現工業數字

    虛擬工廠正在幫助制造商解鎖規劃到運營的全新可能性。
    的頭像 發表于 05-20 10:05 ?553次閱讀

    存儲虛擬有哪些常見類型?有什么優點?

    存儲虛擬是一種將多個存儲設備的物理存儲資源抽象出來、將它們集中在一起并將它們呈現為單個邏輯存儲單元的技術。此過程簡化了存儲管理,提高了資源利用率,并
    的頭像 發表于 03-07 16:47 ?1257次閱讀
    主站蜘蛛池模板: 在线免费色| 国产成人啪午夜精品网站男同 | 久热国产精品视频 | 免费在线黄视频 | 精品国产1000部91麻豆 | 色香首页| 天天色天天操综合网 | 美女和帅哥在床上玩的不可描述 | 2级毛片| 丁香六月激情婷婷 | 91国内在线国内在线播放 | 一级特黄a大片免费 | 午夜伦理片免费观看在线 | 国产精品久久久久久久免费 | 同性同男小说肉黄 | 免费在线一区二区三区 | 国产色婷婷精品综合在线观看 | 午夜国产精品视频 | 日韩精品一区二区三区毛片 | 亚洲视频区 | 99久久99久久| 国产成人精品日本亚洲网站 | 伊人网大香 | 日本精品视频 | 久久久久女人精品毛片九一 | 视频福利网 | 最新午夜 | 国产亚洲一区二区三区在线 | 国产欧美综合在线 | 美女扒开尿口给男人桶爽视频 | 69久久夜色精品国产69小说 | 婷婷月 | 嘿嘿嘿视频在线观看网站 | 欧美色综合高清免费 | 婷婷色天使在线视频观看 | 天堂网www在线观看 天堂网www在线资源中文 | 黄色美女网站免费看 | 丁香六月纪婷婷激情综合 | 91福利社在线观看 | 亚洲激情视频 | 性欧美f|