2023 亞馬遜云科技 re:Invent 在拉斯維加斯威尼斯人會(huì)展中心舉行，亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。

期間，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 共同登臺(tái)，向大眾展示了這次發(fā)布的新內(nèi)容，其中蘊(yùn)含著多個(gè)創(chuàng)新的亮點(diǎn)。接下來(lái)，請(qǐng)跟隨本文一同探索這些新動(dòng)向。

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供全新超級(jí)計(jì)算基礎(chǔ)架構(gòu)、軟件和服務(wù)

NVIDIA 通過(guò)企業(yè)級(jí)生成式 AI 微服務(wù)為聊天機(jī)器人、AI 助手和摘要工具帶來(lái)商業(yè)智能

NVIDIA BioNeMo 在亞馬遜云科技上線，實(shí)現(xiàn)用于藥物研發(fā)的生成式 AI

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型提供訓(xùn)練支持

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供

全新超級(jí)計(jì)算基礎(chǔ)架構(gòu)、軟件和服務(wù)

亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。 NVIDIA 與亞馬遜云科技將集兩家公司技術(shù)之大成，無(wú)論是采用 NVIDIA 最新多節(jié)點(diǎn)系統(tǒng)的新一代 GPU、CPU 和 AI 軟件，還是 AWS Nitro System 高級(jí)虛擬化與安全功能、Elastic Fabric Adapter（EFA）互連接口和可擴(kuò)展性 UltraCluster，均為訓(xùn)練基礎(chǔ)模型和構(gòu)建生成式 AI 應(yīng)用的理想選擇。 這一擴(kuò)展合作建立在雙方長(zhǎng)期合作關(guān)系的基礎(chǔ)上。兩家公司通過(guò)為早期的機(jī)器學(xué)習(xí)（ML）先行者提供推進(jìn)這些技術(shù)發(fā)展所需的計(jì)算性能，進(jìn)而推動(dòng)了生成式 AI 時(shí)代的發(fā)展。 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 正在深入改變?cè)乒ぷ髫?fù)載，并將加速計(jì)算作為多樣化內(nèi)容生成的基礎(chǔ)。NVIDIA 和亞馬遜云科技的共同使命是為每一位客戶提供經(jīng)濟(jì)高效的前沿生成式 AI 技術(shù)。在這一使命的驅(qū)動(dòng)下，NVIDIA 和亞馬遜云科技正在開展覆蓋整個(gè)計(jì)算堆棧的合作，包括 AI 基礎(chǔ)架構(gòu)、加速庫(kù)、基礎(chǔ)模型以及生成式 AI 服務(wù)。”

點(diǎn)擊圖片即可閱讀全文

NVIDIA 通過(guò)企業(yè)級(jí)生成式 AI 微服務(wù)

為聊天機(jī)器人、AI 助手和摘要工具

帶來(lái)商業(yè)智能

NVIDIA 宣布推出一項(xiàng)生成式 AI 微服務(wù)，支持企業(yè)將自定義大語(yǔ)言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應(yīng)用能夠提供高度準(zhǔn)確的響應(yīng)。

NVIDIA NeMo Retriever 是 NVIDIA NeMo（一個(gè)用于構(gòu)建、自定義和部署生成式 AI 模型的框架和工具系列）的一項(xiàng)全新服務(wù)，通過(guò)企業(yè)級(jí)檢索增強(qiáng)生成（RAG）功能，幫助組織加強(qiáng)其生成式 AI 應(yīng)用。

作為一項(xiàng)語(yǔ)義檢索微服務(wù)，NeMo Retriever 借助經(jīng) NVIDIA 優(yōu)化的算法，幫助生成式 AI 應(yīng)用作出更加準(zhǔn)確的回答。使用該微服務(wù)的開發(fā)者，可以將其 AI 應(yīng)用與位于各個(gè)云和數(shù)據(jù)中心的業(yè)務(wù)數(shù)據(jù)相連通。該服務(wù)為 AI 代工添加了 NVIDIA 優(yōu)化的 RAG 功能，并被整合到亞馬遜云科技 Marketplace 上的 NVIDIA AI Enterprise 軟件平臺(tái)中。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“具有 RAG 功能的生成式 AI 應(yīng)用是企業(yè)的下一個(gè)殺手級(jí)應(yīng)用。借助 NVIDIA NeMo Retriever，開發(fā)者可以創(chuàng)建自定義生成式 AI 聊天機(jī)器人、AI 助手和摘要工具。它們能夠訪問(wèn)企業(yè)的業(yè)務(wù)數(shù)據(jù)，通過(guò)準(zhǔn)確且有價(jià)值的生成式 AI 智能來(lái)提高生產(chǎn)力。”

點(diǎn)擊圖片即可閱讀全文

NVIDIA BioNeMo 在亞馬遜云科技上線，

實(shí)現(xiàn)用于藥物研發(fā)的生成式 AI

制藥和科技生物頭部企業(yè)的研究與開發(fā)人員現(xiàn)在可以通過(guò)亞馬遜云科技輕松部署 NVIDIA Clara 軟件和服務(wù)，以加快醫(yī)療研究進(jìn)程。

這讓使用 AWS 云資源的醫(yī)療和生命科學(xué)開發(fā)人員能夠靈活地集成 NVIDIA 加速的產(chǎn)品，比如用于藥物發(fā)現(xiàn)的生成式 AI 平臺(tái) NVIDIA BioNeMo 等。

該平臺(tái)即將登陸亞馬遜云科技上的 NVIDIA DGX 云，目前可通過(guò)高性能計(jì)算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 機(jī)器學(xué)習(xí)服務(wù)使用。

點(diǎn)擊圖片即可閱讀全文

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型

提供訓(xùn)練支持

亞馬遜云科技有一支由資深科學(xué)家和開發(fā)者組成的團(tuán)隊(duì)，致力于為 Amazon Bedrock（一項(xiàng)用于基礎(chǔ)模型的生成式 AI 服務(wù)）創(chuàng)建 Amazon Titan 基礎(chǔ)模型。該團(tuán)隊(duì)在過(guò)去幾個(gè)月中一直在使用 NVIDIA NeMo。

NeMo 的并行技術(shù)可實(shí)現(xiàn)高效的大規(guī)模 LLM 訓(xùn)練。當(dāng)與亞馬遜云科技的 Elastic Fabric Adapter（EFA）配合使用時(shí)，團(tuán)隊(duì)可以將 LLM 擴(kuò)展到多顆 GPU 上，從而加快訓(xùn)練速度。

EFA 為亞馬遜云科技客戶提供了一個(gè) UltraCluster 聯(lián)網(wǎng)基礎(chǔ)設(shè)施，可直接連接 1 萬(wàn)多顆 GPU，并使用 NVIDIA GPUDirect 繞過(guò)操作系統(tǒng)和 CPU。

這一結(jié)合使亞馬遜云科技的科學(xué)家們能夠提供出色的模型質(zhì)量，這是只依靠其他數(shù)據(jù)并行方法無(wú)法大規(guī)模實(shí)現(xiàn)的。

點(diǎn)擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。