OVX 服務(wù)器采用全新 NVIDIA GPU 以加速訓(xùn)練和推理以及圖形密集型工作負(fù)載，將通過(guò)戴爾科技、慧與、聯(lián)想、超微等公司提供。

洛杉磯 — SIGGRAPH — 太平洋時(shí)間 2023 年 8 月 8 日 —NVIDIA 宣布推出搭載全新 NVIDIA L40S GPU 的 NVIDIA OVX 服務(wù)器。這款功能強(qiáng)大的通用數(shù)據(jù)中心處理器將通過(guò) NVIDIA Omniverse 平臺(tái)，加速計(jì)算密集型的復(fù)雜應(yīng)用，包括 AI 訓(xùn)練與推理、3D 設(shè)計(jì)與可視化、視頻處理以及工業(yè)數(shù)字化等。

這款全新 GPU 將加速生成式 AI 的計(jì)算工作負(fù)載。生成式 AI 為各行各業(yè)的工作流和服務(wù)都帶來(lái)了變革，如文本、圖像和視頻生成、聊天機(jī)器人、游戲開(kāi)發(fā)、產(chǎn)品設(shè)計(jì)以及醫(yī)療等。

NVIDIA 專業(yè)可視化副總裁 Bob Pette 表示：“生成式 AI 為各行各業(yè)都帶來(lái)了變革，企業(yè)也更需要為數(shù)據(jù)中心尋求大規(guī)模計(jì)算資源。配備 NVIDIA L40S GPU 的 OVX 系統(tǒng)能夠加速 AI、圖形和視頻處理工作負(fù)載，滿足不斷增加的復(fù)雜且多樣的應(yīng)用對(duì)性能的嚴(yán)苛要求。”

NVIDIA OVX 系統(tǒng)的每臺(tái)服務(wù)器最多支持 8 塊 NVIDIA L40S GPU，每塊 GPU 的顯存為 48GB。基于 NVIDIA Ada Lovelace GPU 架構(gòu)的 L40S 搭載第四代 Tensor Core 和 FP8 Transformer Engine，可提供超過(guò) 1.45 PFLOP 的張量處理能力。對(duì)于擁有數(shù)十億個(gè)參數(shù)和多種數(shù)據(jù)模式（如文本和視頻）的復(fù)雜 AI 工作負(fù)載，與 NVIDIA A100 Tensor Core GPU 相比，L40S 能夠?qū)⑸墒?AI 的推理性能和訓(xùn)練性能分別提高 1.2 倍和 1.7 倍。

為了支持實(shí)時(shí)渲染、產(chǎn)品設(shè)計(jì)、3D 內(nèi)容創(chuàng)建等高保真專業(yè)可視化工作流，NVIDIA L40S GPU 搭載 142 顆第三代 RT Core，可提供 212 TFLOP 的光線追蹤性能，使專業(yè)創(chuàng)作者能夠創(chuàng)建沉浸式的視覺(jué)體驗(yàn)和逼真的內(nèi)容。

針對(duì)計(jì)算要求嚴(yán)苛的工作流，如工程和科學(xué)模擬等，NVIDIA L40S 搭載 18,176 顆 CUDA Core，可提供近 5 倍于 NVIDIA A100 GPU 的單精度浮點(diǎn)計(jì)算（FP32）性能，以加快復(fù)雜計(jì)算和數(shù)據(jù)密集型分析的速度。

專注于大規(guī)模 GPU 加速工作負(fù)載領(lǐng)域的 CoreWeave 是首批提供 L40S 實(shí)例的云服務(wù)提供商之一。

CoreWeave 首席技術(shù)官 Brian Venturo 表示：“隨著生成式 AI 的爆發(fā)式增長(zhǎng)，我們各行各業(yè)的客戶都在尋求性能強(qiáng)大的計(jì)算產(chǎn)品和規(guī)模上的擴(kuò)展，以應(yīng)對(duì)從交互式視頻到 AI 設(shè)計(jì)和自動(dòng)化等各類工作負(fù)載的復(fù)雜性。NVIDIA L40S GPU 將進(jìn)一步擴(kuò)大我們豐富的 NVIDIA 解決方案陣容，使 CoreWeave 成為首家提供這些新資源的專業(yè)云服務(wù)提供商，為下一批生成式 AI 應(yīng)用提供快速、高效、經(jīng)濟(jì)的加速計(jì)算。”

部署 L40S GPU 的企業(yè)將受益于 NVIDIA AI Enterprise 軟件。該軟件今日發(fā)布了重大更新，能夠?yàn)?100 多個(gè)框架、預(yù)訓(xùn)練模型、工具套件和軟件提供生產(chǎn)就緒型企業(yè)級(jí)支持和安全，其中包括用于模擬的 NVIDIA Modulus、用于數(shù)據(jù)科學(xué)的 NVIDIA RAPIDS 和用于生產(chǎn)型 AI 的 NVIDIA Triton 推理服務(wù)器。

NVIDIA 還發(fā)布了對(duì) Omniverse 平臺(tái)的重大更新，新推出的各種功能和平臺(tái)升級(jí)將助力開(kāi)發(fā)者借助生成式 AI 的強(qiáng)大功能，加速并推進(jìn) OpenUSD 工作流程和工業(yè)數(shù)字化應(yīng)用。支持 Omniverse Cloud 的下一代 NVIDIA OVX 系統(tǒng)將配備 L40S GPU，為大幅加速生成式 AI 流程和 Omniverse 工作負(fù)載提供所需的 AI 和圖形性能。

NVIDIA L40S 將于今年秋季上市。包括華碩、戴爾科技、技嘉、慧與、聯(lián)想、QCT、超微在內(nèi)的全球系統(tǒng)構(gòu)建商近期將提供搭載 NVIDIA L40S GPU 的 OVX 系統(tǒng)。該服務(wù)器將幫助全球?qū)I(yè)人士推進(jìn) AI 的發(fā)展。并為各行各業(yè)的用戶帶來(lái)智能聊天機(jī)器人、搜索和摘要工具等生成式 AI 應(yīng)用。請(qǐng)與這些系統(tǒng)構(gòu)建商聯(lián)系，了解具體的供應(yīng)地區(qū)、系統(tǒng)配置詳情和供貨情況。