AWS 與 NVIDIA 宣布策略合作 針對生成式 AI 推出全新超級電腦基礎設施、軟件及服務
- Written by Media Outreach
- AWS 推出首款結合NVIDIA Grace Hopper Superchip 超級晶片與AWS UltraCluster 擴充技術的AI 超級電腦
- NVIDIA DGX Cloud率先配備 NVIDIA GH200 NVL32,並將首次在AWS 上提供此AI訓練即服務
- NVIDIA和AWS在Project Ceiba上的合作,設計全球最快的GPU驅動AI 超級電腦以及最新的 NVIDIA DGX Cloud 超級電腦,供NVIDIA 的AI 研發與自訂模型開發服務
- 配備NVIDIA GH200、H200、L40S 及L4 GPUs 等核心的全新Amazon EC2 instances,將大幅提升生成式AI、高效能運算、設計、以及模擬的工作負載效能
- 在AWS 上運行的NVIDIA 軟件,包括NeMo LLM 框架、NeMo Retriever、以及BioNeMo,將加速自訂模型、語意檢索、新藥研發等應用的生成式 AI發展
- AWS 成為首家配備多節點 NVLink 技術的 NVIDIA GH200 Grace Hopper 超級晶片的雲端服務供應商。NVIDIA GH200 NVL32 多節點平台將運用 NVIDIA NVLink 與 NVSwitch 技術連結 32 個 Grace Hopper 超級晶片,組成一個執行個體。此平台將在 Amazon Elastic Compute Cloud(Amazon EC2)instances 上營運,結合 Amazon 的強大網路(EFA)、先進的虛擬化能力(AWS Nitro System)以及超大規模叢集的支援(Amazon EC2 UltraClusters),賦能共同客戶將其使用的方案擴充至配備數千顆 GH200 超級晶片的規模。
- NVIDIA 與 AWS 將聯手在 AWS 上推出首個採用 GH200 NVL32 的 DGX Cloud 方案 — NVIDIA DGX Cloud AI 訓練即服務(AI-training-as-a-service)方案,在運行單一 instance 的情況下,為開發者提供最大容量的共用記憶體。在 AWS 上運行的 DGX Cloud 將加速訓練擁有超過 1 兆參數的尖端生成式 AI 與大型語言模型。
- NVIDIA 與 AWS 正合力推動 Project Ceiba,聯手設計全球最快的GPU驅動的 AI 超級電腦。這開創先河的超級電腦配備 GH200 NVL32 與 Amazon EFA 互連技術以及16,384顆 NVIDIA GH200 超級晶片,具備65 exaflops 速度等級的 AI 運算能力。該電腦的大規模系統將由 AWS 代管,並為 NVIDIA 研發團隊提供服務,助其推動新一波生成式 AI 的創新。
- AWS 將再推出三款 Amazon EC2 instances:P5e instance配置 NVIDIA H200 Tensor Core GPUs,針對大規模與尖端生成式 AI 及 HPC 工作負載;以及分別配置 NVIDIA L4 GPUs 與 NVIDIA L40S GPUs 的 G6 與 G6e instance,能夠運行包括 AI 微調、推論、繪圖、以及影片工作負載等廣泛應用。G6e instances 特別適合用於開發 3D 工作流程、數碼分身、以及其他使用 NVIDIA Omniverse 的應用,用來連結與構建各種生成式 AI 的 3D 應用。
發佈者對本公告的內容承擔全部責任
關於NVIDIA
從1993年創立以來,NVIDIA一直是加速運算的先驅。1999年發明的GPU開啟PC遊戲市場的成長、改造電腦繪圖的型態、開啟現代AI的世代,並為元宇宙的創建挹注動力。NVIDIA現已發展成全堆疊運算企業,推出各種資料中心規模的方案,重塑產業的面貌。欲了解更多NVIDIA的相關資訊,請至:nvidianews.nvidia.com/。
關於Amazon Web Services
自2006年來,Amazon Web Services一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS為客戶提供超過240種功能全面的雲端服務,包括運算、儲存、數據庫、網絡、分析、機器學習與人工智能、物聯網、流動、安全、混合雲、虛擬和擴增實境(VR 和AR)、媒體,以及應用開發、部署和管理等方面,遍及32個地理區域內的102個可用區域(Availability Zones),並已公佈計畫在加拿大、德國、馬來西亞、紐西蘭和泰國建立5個AWS地理區域、15個可用區域。AWS的服務獲得全球超過百萬客戶的信任,包括發展迅速的初創公司、大型企業和政府機構。通過AWS的服務,客戶能夠有效強化自身基礎設施,提高營運上的彈性與應變能力,同時降低成本。欲了解更多有關AWS的資訊,請瀏覽:https://aws.amazon.com。
Source https://www.media-outreach.com/news/hong-kong/2023/11/29/263615/