在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA與GPU計算存儲單位功耗性能

算法與數據結構 ? 來源:Xilinx賽靈思 ? 作者:Xilinx ? 2021-08-13 17:45 ? 次閱讀

為了提升計算基礎設施的性能,并緊跟數據分析與 AI 不斷攀升的需求,眾多企業將硬件加速視為主要的解決方案。在大多數情況下,先進的可編程硬件(主要是指 GPUFPGA)是加速的主要方式。通過使用這種先進的硬件,企業正在贏得計算優勢;然而,對于編程難度,他們仍然存在合理的擔憂。

硬件制造商正在將加速方法應用于計算存儲,這是專門設計用于包含內嵌計算元素的存儲。這種方法已經被證明可以為分析和 AI 應用提供優異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關鍵的優勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優勢包括:

1

借助應用專用編程定制可編程硬件,獲得更高性能

2

將計算任務從服務器卸載到存儲器件,釋放 CPU 資源

3

數據與計算共址,降低數據傳輸需求

這種新穎的方法前景光明。不過,您應根據具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數據讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數據讀取技術衡量相對于標準 SSD 的性能提升。結果如圖 1 所示。使用 1 到 8 個加速器時,對應的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內嵌駐留在同一個內部 PCIe 互聯上

通過編程在存儲平臺上開展運算

賽靈思數據分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結果如圖 2 所示,使用 1 到 12 個加速器時,對應的吞吐量是 4 到 23GB/s,同時也給出英偉達的結果(使用 1 到 8 個加速器)。請注意,本討論中的所有結果都按 x 軸上的加速器數量進行參數化。

這些結果令人振奮,但在選擇您的解決方案時,請務必將功耗情況納入考慮。

單位功耗性能比較

圖 3 顯示了將功耗考慮在內后的分析結果。它們代表單位功耗達到的性能水平,根據上述討論中引用的相關材料,給出了以下假設:

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅動器 FPGA:最大功耗 30 瓦

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最 終 思 考

計算存儲的優勢在于能增強數據分析和 AI 應用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數據解析的兩種不同的計算存儲方法,我們已經提出按功耗參數化的吞吐量性能曲線。結果顯示,在使用相似數量的加速器進行比較時,SmartSSD 驅動器的單位功耗性能優于 GPUDirect存儲方法。

GPUDirect 是英偉達通過 NVIDIA DGX-2 應用平臺提供的研究系統。

三星 SmartSSD 驅動器是一種可部署的量產型 PCIe 可插拔平臺,現在已經通過賽靈思及分銷商供貨。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1642

    文章

    21920

    瀏覽量

    612130
  • 驅動器
    +關注

    關注

    54

    文章

    8481

    瀏覽量

    148601
  • 三星電子
    +關注

    關注

    34

    文章

    15885

    瀏覽量

    182006
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4882

    瀏覽量

    130404

原文標題:FPGA 與 GPU 計算存儲加速對比

文章出處:【微信號:TheAlgorithm,微信公眾號:算法與數據結構】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    ?為什么GPU性能效率比峰值性能更關鍵

    在評估GPU性能時,通常首先考察三個指標:圖形工作負載的紋理率(GPixel/s)、浮點運算次數(FLOPS)以及它們能處理計算和AI工作負載的每秒8-bittera運算次數(TOPS)。這些關鍵
    的頭像 發表于 03-13 08:34 ?227次閱讀
    ?為什么<b class='flag-5'>GPU</b><b class='flag-5'>性能</b>效率比峰值<b class='flag-5'>性能</b>更關鍵

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    ...... 2) AI超算革命:FPGA集群功耗GPU降低62%;混合精度計算效率提升5.8倍...... 3) 6G通信突破:軟件無線電實現Sub-6GHz/毫米波全頻段覆蓋;M
    發表于 03-03 11:21

    GPU加速計算平臺的優勢

    傳統的CPU雖然在日常計算任務中表現出色,但在面對大規模并行計算需求時,其性能往往捉襟見肘。而GPU加速計算平臺憑借其獨特的優勢,吸引了行業
    的頭像 發表于 02-23 16:16 ?277次閱讀

    GPU計算服務怎么樣

    在當今數字化快速發展的時代,高性能計算需求日益增長。為滿足這些需求,GPU計算服務應運而生。那么,GPU
    的頭像 發表于 02-05 15:01 ?338次閱讀

    FPGA+GPU+CPU國產化人工智能平臺

    平臺采用國產化FPGA+GPU+CPU構建嵌入式多核異構智算終端,可形成FPGA+GPUFPGA+CPU、CPU+FPGA等組合模式,形成低功耗
    的頭像 發表于 01-07 16:42 ?822次閱讀
    <b class='flag-5'>FPGA+GPU</b>+CPU國產化人工智能平臺

    ASIC和GPU的原理和優勢

    芯片”。 準確來說,除了它倆,計算芯片還包括大家更熟悉的CPU,以及FPGA。 行業里,通常會把半導體芯片分為數字芯片和模擬芯片。其中,數字芯片的市場規模占比較大,達到70%左右。 數字芯片,還可以進一步細分,分為:邏輯芯片、存儲
    的頭像 發表于 01-06 13:58 ?1271次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優勢

    《CST Studio Suite 2024 GPU加速計算指南》

    問題,但會降低舊GPU硬件性能,可通過NVIDIA控制面板或命令行工具nvidia - smi管理。 - TCC模式(Windows only):某些GPU計算需要啟用,可通過命令行
    發表于 12-16 14:25

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解算力芯片GPU

    本篇閱讀學習第七、八章,了解GPU架構演進及CPGPU存儲體系與線程管理 █從圖形到計算GPU架構演進 GPU圖像
    發表于 11-03 12:55

    如何提高GPU性能

    在當今這個視覺至上的時代,GPU(圖形處理單元)的性能對于游戲玩家、圖形設計師、視頻編輯者以及任何需要進行高強度圖形處理的用戶來說至關重要。GPU不僅是游戲和多媒體應用的心臟,它還在科學計算
    的頭像 發表于 10-27 11:21 ?1939次閱讀

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學計算、數據分析、機器學習等復雜
    的頭像 發表于 10-25 09:23 ?462次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    CPU計算單元設計 4.1 計算單元邏輯構成 4.2 數相浮點數的差異 4.3 算術邏輯單元 4.4 浮點數單元 4.5 指令的加載和存儲單元 4.6 單指今多數據 4.7 矩陣加速指令集 4.8
    發表于 10-15 22:08

    存儲器容量單位有哪些

    存儲器容量單位是指用于衡量存儲設備中存儲數據能力的單位。在計算機科學中,這些
    的頭像 發表于 09-05 12:41 ?3461次閱讀

    談一談FPGA設計中的功率計算

    隨著工藝技術的越來越前沿化, FPGA器件擁有更多的邏輯、存儲器和特殊功能,如存儲器接口、 DSP塊和多種高速SERDES信道,這些發展不斷地對系統功率要求提出挑戰。 功率計算的關鍵是
    發表于 07-31 22:37

    信號計算主板設計方案:735-基于3U VPX的AGX Xavier GPU計算主板

    3U VPX導冷結構 , FPGA信號預處理 , GPU顯卡 , PCIE視頻處理 , GPU計算主板
    的頭像 發表于 07-18 11:31 ?673次閱讀
    信號<b class='flag-5'>計算</b>主板設計方案:735-基于3U VPX的AGX Xavier <b class='flag-5'>GPU</b><b class='flag-5'>計算</b>主板

    科普:GPUFPGA,有何異同

    來源:內容由半導體行業觀察(ID:icbank)編譯自techspot,謝謝。圖形處理單元(GPU)和現場可編程門陣列(FPGA)是用于成像和其他繁重計算的三種主要處理器類型中的兩種。中央處理器
    的頭像 發表于 06-15 08:27 ?915次閱讀
    科普:<b class='flag-5'>GPU</b>和<b class='flag-5'>FPGA</b>,有何異同
    主站蜘蛛池模板: 午夜高清视频在线观看 | 国产一二三区在线 | 97爱爱| 日本在线不卡一区 | 久久精品人人爽人人爽 | 亚洲一区二区免费视频 | 欧美刺激午夜性久久久久久久 | 业余性自由色xxxx视频 | 天天看片夜夜爽 | 国产精品欧美久久久久天天影视 | 年轻的护士3 | 色欲麻豆国产福利精品 | 人与牲动交xxxxbbb | 69日本xxxxxxxxx18 69日本xxxxxxxxx19 | 97涩涩涩| 日韩毛片在线看 | 成人欧美一区二区三区黑人免费 | 国产色爽女小说免费看 | wwwxxx亚洲| 日本在线观看永久免费网站 | 久久精品亚瑟全部免费观看 | 日本亚洲欧美国产日韩ay高清 | 特级毛片免费视频 | 亚洲一本视频 | 亚洲国产精品久久精品怡红院 | 国产精品欧美一区二区三区 | 4455亚洲| 久青草国产在线视频_久青草免 | 老色鬼久久综合第一 | 国产永久视频夜色资源网 | 午夜手机福利视频 | 天堂资源在线中文 | 亚洲伊人tv综合网色 | 亚洲大成色www永久网址 | 特黄一级真人毛片 | 欧美在线高清视频 | 日本三级精品 | 羞羞色男人的天堂伊人久久 | 77788色淫免费网站视频 | 一级特黄aaa大片在线观看视频 | 国产手机免费视频 |