亞馬遜云科技在2023 re:Invent全球大會上宣布，亞馬遜云科技與英偉達宣布擴大戰(zhàn)略合作，將聯(lián)合推出先進的基礎(chǔ)設(shè)施、軟件及服務(wù)，推動客戶在生成式AI（Generative AI）的創(chuàng)新。

雙方將英偉達與亞馬遜云科技技術(shù)優(yōu)勢相結(jié)合，為訓(xùn)練基礎(chǔ)模型和構(gòu)建生成式AI應(yīng)用提供理想環(huán)境，具體包含英偉達新一代GPU、CPU與AI軟件的最新多節(jié)點系統(tǒng)，以及亞馬遜云科技的Nitro System先進虛擬化與安全平臺、Elastic Fabric Adapter（EFA）互連技術(shù)和UltraCluster擴展能力。

亞馬遜云科技與英偉達一直保持長期合作關(guān)系，攜手為生成式AI賦能。此次擴大合作將為機器學(xué)習(xí)（ML）開拓者提供推動這些技術(shù)進一步發(fā)展所需的計算性能。雙方合作的內(nèi)容包括：

1、亞馬遜云科技推出首款結(jié)合NVIDIA Grace Hopper Superchip與Amazon UltraCluster擴展功能的云AI超級計算機。

2、NVIDIA DGX Cloud率先配備NVIDIA GH200 NVL32，并首次在亞馬遜云科技上提供此AI訓(xùn)練即服務(wù)。

3、英偉達和亞馬遜云科技在Project Ceiba上合作，打造全球最快的GPU驅(qū)動AI超級計算機以及最新的NVIDIA DGX Cloud超級計算機，用于英偉達的AI研發(fā)以及自研模型開發(fā)服務(wù)。

4、配置NVIDIA GH200、H200、L40S以及L4 GPU等芯片的全新Amazon EC2實例，大幅提升生成式AI、HPC高性能計算、設(shè)計以及模擬類工作負(fù)載的性能。

5、在亞馬遜科技上運行的英偉達軟件，包括NeMo LLM框架、NeMo Retriever以及BioNeMo，加速自研模型、語義檢索、新藥研發(fā)等應(yīng)用的生成式AI發(fā)展。

此次雙方合作將大幅加速所有產(chǎn)業(yè)應(yīng)用生成式AI的發(fā)展，具體內(nèi)容包括：

1、亞馬遜云科技是第一家在云端配備具有多節(jié)點NVLink技術(shù)的NVIDIA GH200 Grace Hopper Superchips的云廠商。NVIDIA GH200 NVL32多節(jié)點平臺運用NVIDIA NVLink與NVSwitch技術(shù)連接32個Grace Hopper Superchips，組成一個實例。此平臺將在Amazon Elastic Compute Cloud（Amazon EC2）實例上可用，與亞馬遜強大的網(wǎng)絡(luò)（EFA）相連，由先進的虛擬化（Amazon Nitro System）及超大規(guī)模集群（Amazon EC2 UltraClusters）提供支持，讓共同客戶能擴展至數(shù)千個GH200 Superchips。

2、英偉達與亞馬遜云科技將連手在亞馬遜云科技上推出NVIDIA DGX Cloud NVIDIA AI訓(xùn)練即服務(wù)（AI-training-as-a-service）。此服務(wù)將是首個配置GH200 NVL32的DGX Cloud，為開發(fā)者提供單一實例中最多的共享內(nèi)存。在亞馬遜云科技上運行的DGX Cloud將加速訓(xùn)練含有超過1兆參數(shù)的尖端生成式AI與大型語言模型。

3、英偉達與亞馬遜云科技合作推動Project Ceiba，構(gòu)建全球最快的GPU驅(qū)動的AI超級計算機，這是一個配備GH200 NVL32與Amazon EFA互連技術(shù)的大規(guī)模系統(tǒng)，該系統(tǒng)部署在亞馬遜云科技上，為英偉達研發(fā)團隊提供服務(wù)。該開創(chuàng)先河的超級計算機配置16,384顆NVIDIA GH200 Superchips，能處理65 exaflops速度等級的AI運算，英偉達使用該超級計算機推動其全新生成式AI的創(chuàng)新。

4、亞馬遜云科技將推出三款A(yù)mazon EC2實例：P5e實例配置NVIDIA H200 Tensor Core GPUs，針對大規(guī)模與尖端生成式AI及HPC高性能運算工作負(fù)載；分別配置NVIDIA L4 GPUs與NVIDIA L40S GPUs的G6 與G6e實例，可運行包括AI微調(diào)、推理、繪圖以及影片工作負(fù)載等廣泛應(yīng)用。G6e實例特別適用于開發(fā)3D工作流程、數(shù)字孿生、以及其他使用NVIDIA Omniverse的應(yīng)用，用來連結(jié)與構(gòu)建各種生成式AI的3D應(yīng)用。

亞馬遜云科技首席執(zhí)行官Adam Selipsky表示：“亞馬遜云科技與英偉達合作已經(jīng)超過13年，我們的合作起源于推出全球首個配置GPU的云端實例?，F(xiàn)在我們推出最廣泛的英偉達 GPU解決方案，可用于各種工作負(fù)載，包括繪圖、游戲、HPC高性能計算、機器學(xué)習(xí)，直到現(xiàn)在的生成式AI。我們持續(xù)運用英偉達技術(shù)推動創(chuàng)新，并通過將新一代NVIDIA Grace HopperSuperchips與亞馬遜云科技強大看的網(wǎng)絡(luò)EFA、超大規(guī)模集群EC2 UltraClusters以及先進虛擬化能力Nitro相結(jié)合，讓亞馬遜云科技成為運行GPU的最佳云端環(huán)境。”

英偉達創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式AI正改變各種云端負(fù)載，為多元內(nèi)容創(chuàng)作在底層注入加速計算動能。我們共同目標(biāo)是為每個客戶提供具有成本效益、先進生成式AI，為此英偉達與亞馬遜云科技在整個計算堆棧展開合作，橫跨AI基礎(chǔ)設(shè)施、加速庫（acceleration libraries）、基礎(chǔ)模型以及生成式AI服務(wù)。”

在亞馬遜云科技云端上運行英偉達軟件，加速生成式AI的研發(fā)

此外，英偉達宣布推出在亞馬遜云科技上運行的軟件，用于加速其生成式AI的研發(fā)。NVIDIA NeMo Retriever microservice微服務(wù)提供多項新工具，用來創(chuàng)造高精準(zhǔn)度的聊天機器人，以及運用加速的語意檢索技術(shù)的歸納工具。在Amazon SageMaker上可用的NVIDIA BioNeMo，并計劃在亞馬遜云科技托管的NVIDIA DGX Cloud，讓制藥企業(yè)加快新藥開發(fā)，企業(yè)可運用自己的數(shù)據(jù)簡化與加速模型訓(xùn)練。

在亞馬遜云科技云端運行的英偉達軟件將幫助亞馬遜為其服務(wù)與運營注入創(chuàng)新動能。亞馬遜云科技正運用NVIDIA NeMo框架訓(xùn)練新一代大語言模型Amazon Titan。Amazon Robotics也已開始借助NVIDIA Omniverse Isaac打造數(shù)字孿生，在虛擬化環(huán)境中推動自主倉庫的自動化、優(yōu)化以及規(guī)劃，完成之后再部署到真實環(huán)境。