在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA全新AI以太網絡平臺大幅提升AI云性能

麗臺科技 ? 來源:NVIDIA英偉達企業解決方案 ? 2023-11-27 14:31 ? 次閱讀

NVIDIA 近日宣布,三家頭部系統制造商將率先在其服務器產品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網絡技術,幫助企業客戶加速生成式 AI 業務。

Spectrum-X 專為生成式 AI 量身定制,為企業提供了一種全新的以太網絡,相較傳統以太網方案,其 AI 通信網絡性能提高了 1.6 倍。

這三家頭部系統制造商的新系統,整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業通過生成式 AI 來實現業務轉型奠定了基礎。

NVIDIA 創始人兼首席執行官黃仁勛表示:“生成式 AI 和加速計算正在推動新一代的業務轉型,企業需要升級其數據中心來滿足新型業務的需求。加速網絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統的催化劑,加快他們邁向生成式 AI 新時代。”

專門用于加速 AI 的網絡

為實現 AI 業務的出色效率,Spectrum-X 集性能優異的 Spectrum-4 以太網交換機、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規模 AI 業務性能的新型網絡加速器)以及多種加速軟件于一體。領先的基礎設施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。

Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網交換機,可在大規模、滿負荷的場景下提供較高的數據吞吐量,同時在 AI 云業務的多租戶場景下將網絡擁塞降低,其智能的、基于微調的路由技術可以保障網絡基礎設施的利用率。

BlueField-3 SuperNIC 專為網絡密集型的大規模并行計算而設計,可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網絡連接,大幅提升了集群內部基于東西網絡流量的 AI 訓練和推理性能,還能實現多租戶數據中心環境的安全隔離,確保租戶業務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規格設計,是企業級服務器的理想選擇。

NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優異的 Spectrum-X 軟件開發套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。

NVIDIA AI Enterprise 為安全、穩定和已經支持的生產級 AI 業務提供了框架、預訓練模型和開發工具。NVIDIA AI Workbench 使開發者能夠在 PC 或工作站上快速創建、測試和自定義預訓練生成式 AI 模型,然后將其擴展至幾乎任何數據中心或云。

搭載 Spectrum-X 的 NVIDIA 超級計算機

NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X,這也是新一代 AI 系統的參考架構。該超級計算機由 NVIDIA 與戴爾科技聯合開發,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器,并通過 Spectrum-4 交換機組成了集群系統。






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 以太網
    +關注

    關注

    40

    文章

    5605

    瀏覽量

    175155
  • NVIDIA
    +關注

    關注

    14

    文章

    5274

    瀏覽量

    105950
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4923

    瀏覽量

    130829
  • 交換機
    +關注

    關注

    21

    文章

    2728

    瀏覽量

    101563
  • RDMA
    +關注

    關注

    0

    文章

    82

    瀏覽量

    9236

原文標題:NVIDIA 全新 AI 以太網絡平臺大幅提升 AI 云性能

文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    全球各大品牌利用NVIDIA AI技術提升運營效率

    歐萊雅、LVMH 集團和雀巢利用 NVIDIA 加速的智能體 AI 和物理 AI,大幅提升產品設計、營銷及物流等方面的運營效率。
    的頭像 發表于 06-19 14:36 ?277次閱讀

    NVIDIA計劃打造全球首個工業AI平臺

    NVIDIA 宣布,其正在為歐洲制造商構建全球首個工業 AI 。這家總部位于德國的 AI 工廠將配備 1 萬個 GPU,包括通過 NVIDIA
    的頭像 發表于 06-16 14:17 ?169次閱讀

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    的端側部署,Token產生速度提升了40%,讓端側大模型擁有更高的計算效率和推理性能,使端側AI交互響應更及時,用戶體驗更貼心。 聯發科還與vivo和全民K歌攜手,借助天璣AI人聲萃
    發表于 04-13 19:52

    適用于數據中心和AI時代的800G網絡

    數據中心依賴數千甚至上萬個GPU集群進行高性能計算,對帶寬、延遲和數據交換效率提出極高要求。 AI:以生成式AI為核心的
    發表于 03-25 17:35

    英特爾以太網新品:高性能與能效并重,帶來多樣化選擇

    網絡適配器,以及英特爾以太網控制器E610和網絡適配器,旨在滿足企業、電信、、邊緣、科學計算(HPC)和AI等領域日益增長的需求。這些新
    的頭像 發表于 02-25 20:17 ?214次閱讀

    英特爾推出具備高性能和能效的以太網解決方案

    網絡適配器,以及英特爾以太網控制器E610和網絡適配器,旨在滿足企業、電信、、邊緣、科學計算(HPC)和AI等領域日益增長的需求。這些新
    發表于 02-25 11:17 ?210次閱讀
    英特爾推出具備高<b class='flag-5'>性能</b>和能效的<b class='flag-5'>以太網</b>解決方案

    使用NVIDIA推理平臺提高AI推理性能

    NVIDIA推理平臺提高了 AI 推理性能,為零售、電信等行業節省了數百萬美元。
    的頭像 發表于 02-08 09:59 ?645次閱讀
    使用<b class='flag-5'>NVIDIA</b>推理<b class='flag-5'>平臺</b>提高<b class='flag-5'>AI</b>推理<b class='flag-5'>性能</b>

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    的“知識機器人”,提升全球數十億知識工作者的生產力。為了開發 AI 智能體,企業需要解決信任、物理安全、網絡安全以及合規性等關鍵問題。 全新 NVI
    發表于 01-17 16:29 ?147次閱讀

    以太網速率對網絡性能的影響

    以太網作為最廣泛使用的局域網技術之一,其速率的提高對網絡性能有著直接的影響。從最初的10Mbps發展到今天的100Gbps甚至更高,以太網速率的提升
    的頭像 發表于 11-08 09:11 ?1119次閱讀

    NVIDIA SuperNIC推進現代AI基礎設施發展

    在生成式 AI 時代,加速網絡對于為大規模分布式 AI 工作負載構建高性能計算平臺至關重要。NVIDIA
    的頭像 發表于 11-06 13:59 ?696次閱讀

    使用全新NVIDIA AI Blueprint開發視覺AI智能體

    為提高生產力、優化流程和創造更加安全的空間,埃森哲、戴爾科技和聯想等公司正在使用全新 NVIDIA AI Blueprint 開發視覺 AI 智能體。
    的頭像 發表于 11-06 13:58 ?952次閱讀

    NVIDIA助力xAI打造全球最大AI超級計算機

    以太網網絡平臺,該平臺是專為多租戶、超大規模的 AI 工廠提供卓越性能而設計的 RDMA(Remote Direct Memory Acc
    的頭像 發表于 10-30 11:38 ?788次閱讀

    NVIDIA 以太網加速 xAI 構建的全球最大 AI 超級計算機

    市的 Colossus 超級計算機集群達到了 10 萬顆 NVIDIA? Hopper? GPU 的巨大規模。該集群使用了 NVIDIA Spectrum-X? 以太網網絡平臺,該
    發表于 10-30 09:33 ?324次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太網</b>加速 xAI 構建的全球最大 <b class='flag-5'>AI</b> 超級計算機

    簡單認識NVIDIA網絡平臺

    NVIDIA Spectrum-X800 平臺是業界第一代 800Gb/s 的以太網網絡平臺,包括了 NVIDIA Spectrum SN5
    的頭像 發表于 09-09 09:22 ?761次閱讀

    應用NVIDIA Spectrum-X網絡構建新型主權AI

    法國服務提供商 Scaleway 正在基于 NVIDIA 的 Hopper GPU和 Spectrum-X 以太網網絡平臺 構建區域性 GPU 集群,為用戶提供
    的頭像 發表于 07-26 18:58 ?1441次閱讀
    主站蜘蛛池模板: 久久国产乱子伦精品免费看 | 天天在线天天在线天天影视 | 久久午夜影院 | 亚洲乱码一二三四区 | avtt加勒比手机版天堂网 | 最新欧美精品一区二区三区 | 奇米奇米| 一区二区三区四区国产精品 | 人人做人人插 | 免费特黄一区二区三区视频一 | 久久久久综合中文字幕 | 特级毛片免费视频观看 | 在线观看一二三区 | 国模欢欢大尺度 | 淫香色香| 丁香花成人另类小说 | 全国男人的天堂网站 | 国产精品嫩草影院人体模特 | 91激情| 清冷双性被cao的合不拢腿 | 国产精品国产三级在线高清观看 | 欧美黑人换爱交换乱理伦片 | 亚洲一区二区在线免费观看 | 天天狠天天天天透在线 | 国模掰开| 男人的天堂欧美 | 拍拍拍交性免费视频 | 日本www色 | 伊人久久亚洲综合天堂 | 日本69sexmovies| 欧美在线高清视频 | 天天精品视频 | 亚洲国产综合视频 | 亚洲高清日韩精品第一区 | 天堂网在线资源 | 久久福利精品 | 俺来也久久 | 亚洲免费视频一区 | 天堂资源8中文最新版在线 天堂资源地址在线 | 国产视频日本 | 亚洲视频在线观看一区 |