戴爾科技、慧與和聯(lián)想即將推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服務(wù)器，以支持 VMware Private AI Foundation with NVIDIA

拉斯維加斯 — VMware Explore — 太平洋時(shí)間 2023 年 8 月 22 日 — NVIDIA 宣布，全球領(lǐng)先的系統(tǒng)制造商將推出 AI 就緒型服務(wù)器，其支持同發(fā)布的 VMware Private AI Foundation with NVIDIA，幫助企業(yè)使用自有業(yè)務(wù)數(shù)據(jù)來(lái)定制和部署生成式 AI 應(yīng)用。

NVIDIA AI 就緒型服務(wù)器將采用 NVIDIA L40S GPU、NVIDIA BlueField-3 DPU 和 NVIDIA AI Enterprise 軟件使企業(yè)能夠微調(diào)生成式 AI 基礎(chǔ)模型并部署生成式 AI 應(yīng)用，比如智能聊天機(jī)器人、搜索和摘要工具等。這些服務(wù)器還提供由 NVIDIA 加速的基礎(chǔ)設(shè)施和軟件，以支持 VMware Private AI Foundation with NVIDIA。

作為全球領(lǐng)先的系統(tǒng)制造商的戴爾科技、慧與和聯(lián)想，將于年底前推出搭載 NVIDIA L40S 的服務(wù)器，以加速推進(jìn)企業(yè)級(jí) AI 的發(fā)展。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“全新的計(jì)算時(shí)代已經(jīng)來(lái)臨，各行各業(yè)的企業(yè)都在競(jìng)相采用生成式 AI。我們正在通過(guò)涵蓋全球頂尖軟件和系統(tǒng)合作伙伴的生態(tài)系統(tǒng)，將生成式 AI 帶給全球企業(yè)。”

對(duì)于將部署 VMware Private AI Foundation with NVIDIA 的企業(yè)來(lái)說(shuō)，NVIDIA AI 就緒型服務(wù)器是一個(gè)理想的平臺(tái)。

VMware 首席執(zhí)行官 Raghu Raghuram 表示：“生成式 AI 正在大力推動(dòng)數(shù)字化轉(zhuǎn)型進(jìn)程，企業(yè)需要一種全面集成的解決方案，以更加安全地構(gòu)建應(yīng)用，從而推動(dòng)業(yè)務(wù)發(fā)展。通過(guò) VMware、NVIDIA、以及我們服務(wù)器制造商合作伙伴的專業(yè)知識(shí)相結(jié)合，企業(yè)將能夠在確保數(shù)據(jù)隱私、安全和可控性的前提下開(kāi)發(fā)和部署 AI。”

助推企業(yè)生成式 AI 轉(zhuǎn)型

各行各業(yè)正在競(jìng)相將生成式 AI 用于藥物研發(fā)、零售產(chǎn)品描述、智能虛擬助手、制造模擬、欺詐檢測(cè)等各種用途，NVIDIA AI 就緒型服務(wù)器將為這些行業(yè)提供全棧加速基礎(chǔ)設(shè)施和軟件。

這些服務(wù)器采用 NVIDIA AI Enterprise，即 NVIDIA AI 平臺(tái)的操作系統(tǒng)。該軟件為 100 多個(gè)框架、預(yù)訓(xùn)練模型、工具套件和軟件提供生產(chǎn)就緒型企業(yè)級(jí)支持和安全性，包括用于 LLM 的 NVIDIA NeMo、用于模擬的 NVIDIA Modulus、用于數(shù)據(jù)科學(xué)的 NVIDIA RAPIDS 和用于生產(chǎn)型 AI 的 NVIDIA Triton 推理服務(wù)器。

專為處理包含數(shù)十億參數(shù)的復(fù)雜 AI 工作負(fù)載而打造的 L40S GPU 搭載第四代 Tensor Core 和 FP8 Transformer 引擎，可提供超 1.45 PFLOPS 的張量處理能力，其訓(xùn)練性能是 NVIDIA A100 Tensor Core GPU 的 1.7 倍。

相較于 NVIDIA A100 GPU，NVIDIA L40S 可將智能聊天機(jī)器人、助手、搜索和摘要等生成式 AI 應(yīng)用中的生成式 AI 推理性能提高 1.2 倍。

通過(guò)集成 NVIDIA BlueField DPU，可加速、卸載和隔離巨大計(jì)算工作負(fù)載，其中包含虛擬化、網(wǎng)絡(luò)、存儲(chǔ)、安全，以及其他云原生 AI 服務(wù)，以進(jìn)一步提高速度。

NVIDIA ConnectX-7 智能網(wǎng)卡提供先進(jìn)的硬件卸載和超低延遲，可為數(shù)據(jù)密集型生成式 AI 工作負(fù)載提供同類領(lǐng)先的可擴(kuò)展性能。

推動(dòng)企業(yè)生成式 AI 部署的龐大生態(tài)系統(tǒng)

全球領(lǐng)先的計(jì)算機(jī)制造商正在構(gòu)建 NVIDIA AI 就緒型服務(wù)器，包括戴爾 PowerEdge R760xa、適用于 VMware Private AI Foundation with NVIDIA 的慧與 ProLiant Gen11 服務(wù)器以及聯(lián)想 ThinkSystem SR675 V3。

戴爾科技主席兼首席執(zhí)行官 Michael Dell 表示：“生成式 AI 是創(chuàng)新的‘催化劑’，將助力解決一些全球性的重大挑戰(zhàn)。而采用 NVIDIA AI 就緒型服務(wù)器的戴爾生成式 AI 解決方案將扮演至關(guān)重要的角色，即通過(guò)推動(dòng)生產(chǎn)力水平實(shí)現(xiàn)前所未有的提升，并變革工業(yè)運(yùn)營(yíng)的方式，以加速人類的進(jìn)程。”

慧與總裁兼首席執(zhí)行官 Antonio Neri 表示：“生成式 AI 將推動(dòng)企業(yè)生產(chǎn)力規(guī)模的全新擴(kuò)展 —— 從賦能聊天機(jī)器人和數(shù)字助理，到幫助設(shè)計(jì)和開(kāi)發(fā)新的解決方案。我們很高興能繼續(xù)與 NVIDIA 密切合作，在一系列企業(yè)級(jí)調(diào)優(yōu)和推理工作負(fù)載解決方案中采用 NVIDIA 的 GPU 和軟件，這將加速生成式 AI 的部署。”

聯(lián)想集團(tuán)主席兼首席執(zhí)行官楊元慶表示：“企業(yè)迫切希望采用生成式 AI 來(lái)推動(dòng)智能化轉(zhuǎn)型。通過(guò)與 NVIDIA 和 VMware 合作，聯(lián)想正在進(jìn)一步擴(kuò)大自身在生成式 AI 領(lǐng)域的領(lǐng)先地位，并鞏固自身的獨(dú)特定位，即在客戶采用 AI 的旅程中為其提供幫助。”

供應(yīng)情況

搭載 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就緒型服務(wù)器將于年底前上市，云服務(wù)提供商預(yù)計(jì)將在未來(lái)幾個(gè)月提供實(shí)例。