在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA與GPU計算存儲加速對比

劉杰 ? 來源:zrl12123456 ? 作者:zrl12123456 ? 2022-08-02 08:03 ? 次閱讀

硬件制造商正在將加速方法應用于計算存儲,這是專門設計用于包含內嵌計算元素的存儲。這種方法已經被證明可以為分析和 AI 應用提供優異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關鍵的優勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優勢包括:

1. 借助應用專用編程定制可編程硬件,獲得更高性能

2. 將計算任務從服務器卸載到存儲器件,釋放 CPU 資源

3. 數據與計算共址,降低數據傳輸需求

這種新穎的方法前景光明。不過,您應根據具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數據讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用(參見圖 1)。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數據讀取技術衡量相對于標準 SSD 的性能提升。結果如圖 1 所示。使用 1 到 8 個加速器時,對應的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內嵌駐留在同一個內部 PCIe 互聯上

通過編程在存儲平臺上開展運算

賽靈思數據分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結果如圖 2 所示,使用 1 到 12 個加速器時,對應的吞吐量是 4 到 23GB/s,同時也給出英偉達的結果(使用 1 到 8 個加速器)。請注意,本討論中的所有結果都按 x 軸上的加速器數量進行參數化。

這些結果令人振奮,但在選擇您的解決方案時,請務必將功耗情況納入考慮。

圖 2:SmartSSD 驅動器的 CSV 解析性能結果

單位功耗性能比較

圖 3 顯示了將功耗考慮在內后的分析結果。它們代表單位功耗達到的性能水平,根據上述討論中引用的相關材料,給出了以下假設:

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅動器 FPGA:最大功耗 30 瓦

圖 3:CSV 解析的每瓦功耗帶寬比較

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最終思考

計算存儲的優勢在于能增強數據分析和 AI 應用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數據解析的兩種不同的計算存儲方法,我們已經提出按功耗參數化的吞吐量性能曲線。結果顯示,在使用相似數量的加速器進行比較時,SmartSSD 驅動器的單位功耗性能優于 GPUDirect存儲方法。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1641

    文章

    21912

    瀏覽量

    611706
  • 驅動器
    +關注

    關注

    54

    文章

    8476

    瀏覽量

    148507
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4881

    瀏覽量

    130359
收藏 人收藏

    評論

    相關推薦

    GPU加速計算平臺的優勢

    傳統的CPU雖然在日常計算任務中表現出色,但在面對大規模并行計算需求時,其性能往往捉襟見肘。而GPU加速計算平臺憑借其獨特的優勢,吸引了行業
    的頭像 發表于 02-23 16:16 ?261次閱讀

    GPU 加速計算:突破傳統算力瓶頸的利刃

    在數字化時代,數據呈爆炸式增長,傳統的算力已難以滿足復雜計算任務的需求。無論是人工智能的深度學習、大數據的分析處理,還是科學研究中的模擬計算,都對算力提出了極高的要求。而云 GPU 加速
    的頭像 發表于 02-17 10:36 ?189次閱讀

    ASIC和GPU的原理和優勢

    芯片”。 準確來說,除了它倆,計算芯片還包括大家更熟悉的CPU,以及FPGA。 行業里,通常會把半導體芯片分為數字芯片和模擬芯片。其中,數字芯片的市場規模占比較大,達到70%左右。 數字芯片,還可以進一步細分,分為:邏輯芯片、存儲
    的頭像 發表于 01-06 13:58 ?1248次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優勢

    GPU加速云服務器怎么用的

    GPU加速云服務器是將GPU硬件與云計算服務相結合,通過云服務提供商的平臺,用戶可以根據需求靈活租用帶有GPU資源的虛擬機實例。那么,
    的頭像 發表于 12-26 11:58 ?296次閱讀

    《CST Studio Suite 2024 GPU加速計算指南》

    許可證模型的加速令牌或SIMULIA統一許可證模型的SimUnit令牌或積分授權。 4. GPU計算的啟用 - 交互式模擬:通過加速對話框啟用,打開求解器對話框,點擊“
    發表于 12-16 14:25

    NPU與GPU的性能對比

    它們在不同應用場景下的表現。 一、設計初衷與優化方向 NPU : 專為加速AI任務而設計,包括深度學習和推理。 針對神經網絡的計算模式進行了優化,能夠高效地執行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內存體系結構和數據流優化策略,對深度學習任務的處理特別高
    的頭像 發表于 11-14 15:19 ?3434次閱讀

    PyTorch GPU 加速訓練模型方法

    在深度學習領域,GPU加速訓練模型已經成為提高訓練效率和縮短訓練時間的重要手段。PyTorch作為一個流行的深度學習框架,提供了豐富的工具和方法來利用GPU進行模型訓練。 1. 了解GPU
    的頭像 發表于 11-05 17:43 ?1116次閱讀

    FPGA和ASIC在大模型推理加速中的應用

    隨著現在AI的快速發展,使用FPGA和ASIC進行推理加速的研究也越來越多,從目前的市場來說,有些公司已經有了專門做推理的ASIC,像Groq的LPU,專門針對大語言模型的推理做了優化,因此相比GPU這種通過
    的頭像 發表于 10-29 14:12 ?1574次閱讀
    <b class='flag-5'>FPGA</b>和ASIC在大模型推理<b class='flag-5'>加速</b>中的應用

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學
    的頭像 發表于 10-25 09:23 ?450次閱讀

    FPGA加速深度學習模型的案例

    FPGA(現場可編程門陣列)加速深度學習模型是當前硬件加速領域的一個熱門研究方向。以下是一些FPGA加速深度學習模型的案例: 一、基于
    的頭像 發表于 10-25 09:22 ?880次閱讀

    深度學習GPU加速效果如何

    圖形處理器(GPU)憑借其強大的并行計算能力,成為加速深度學習任務的理想選擇。
    的頭像 發表于 10-17 10:07 ?450次閱讀

    Achronix Speedster7t FPGAGPU解決方案的比較

    這篇針對大模型推理跟GPU對比分析,雖然以Llama2為例,也適用于最新的Llama3,模型的日新月易也更進一步說明硬件平臺的可編程可擴展的重要性,FPGA是其中一個不錯的選擇。
    的頭像 發表于 09-18 16:19 ?525次閱讀
    Achronix Speedster7t <b class='flag-5'>FPGA</b>與<b class='flag-5'>GPU</b>解決方案的比較

    信號計算主板設計方案:735-基于3U VPX的AGX Xavier GPU計算主板

    3U VPX導冷結構 , FPGA信號預處理 , GPU顯卡 , PCIE視頻處理 , GPU計算主板
    的頭像 發表于 07-18 11:31 ?664次閱讀
    信號<b class='flag-5'>計算</b>主板設計方案:735-基于3U VPX的AGX Xavier <b class='flag-5'>GPU</b><b class='flag-5'>計算</b>主板

    科普:GPUFPGA,有何異同

    來源:內容由半導體行業觀察(ID:icbank)編譯自techspot,謝謝。圖形處理單元(GPU)和現場可編程門陣列(FPGA)是用于成像和其他繁重計算的三種主要處理器類型中的兩種。中央處理器
    的頭像 發表于 06-15 08:27 ?895次閱讀
    科普:<b class='flag-5'>GPU</b>和<b class='flag-5'>FPGA</b>,有何異同

    借助全新 AMD Alveo? V80 計算加速卡釋放計算能力

    對于大規模數據處理,最佳性能不僅取決于原始計算能力,還取決于高存儲器帶寬。 因此,全新 AMD Alveo? V80 計算加速卡專為具有大型數據集的內存受限型應用而設計,這些應用需要
    發表于 05-16 14:09 ?391次閱讀
    借助全新 AMD Alveo? V80 <b class='flag-5'>計算</b><b class='flag-5'>加速</b>卡釋放<b class='flag-5'>計算</b>能力
    主站蜘蛛池模板: 性夜影院爽黄a爽在线看香蕉 | 天堂网中文| 高清不卡一区二区三区 | 神马午夜嘿嘿 | 色婷婷六月丁香七月婷婷 | 亚洲视频国产 | 色香淫欲 | 欧美成人区| 欧美在线观看视频一区 | 涩久久 | 熊出没之环球大冒险旧版免费观看 | 26uuu影院亚洲欧美综合 | 色偷偷偷| 天堂资源8中文最新版在线 天堂资源地址在线 | videosex久久麻豆 | 操的好爽视频 | 婷婷激情狠狠综合五月 | 日本www色| 久久精品国产大片免费观看 | 国产精品福利视频手机免费观看 | 在线观看免费视频网站色 | 天天操天天干视频 | 亚洲欧美v视色一区二区 | 午夜一级毛片 | 成年片色大黄全免费网址 | 亚洲伊人精品综合在合线 | 日a在线 | 亚洲在成人网在线看 | 夜夜bb | 午夜在线观看视频 | 日本黄黄| 香港三级理论在线影院 | 人人艹人人插 | 欧美色综合高清免费 | 免费一级特黄特色大片在线 | 免费一级特黄特色大片 | 国产裸露片段精华合集链接 | 天天爱添天天爱添天天爱添 | 亚洲国产精品第一区二区 | 免费看吻胸亲嘴激烈网站 | 欧美高清性色生活 |