NVIDIA 宣布推出一類具有大內存的新型超級電腦——超級計算機 NVIDIA 基於超級晶片的DGX NVIDIA GH200 Grace Hopper 和開關係統 NVIDIA NVLink。它旨在開發用於生成應用程式的下一代模型 人工智能、推薦系統和數據分析工作負載。
海量內存空間 NVIDIA DGX GH200 使用 NVLink 連接技術與 NVLink 開關係統結合 256 個 GH200 超級晶片，形成單一 GPU。這提供了 1 exaflop 的性能和 144 TB 的共享內存，比上一代多了近 500 倍 NVIDIA DGX A100，於 2020 年推出。
“生成式 人工智能創辦人兼執行長表示，大型語言模型和推薦系統是現代經濟的數位引擎 NVIDIA 黃仁勳. – DGX GH200 AI超級電腦整合了最先進的加速運算和網路技術 NVIDIA擴大人工智慧的邊界」。
正如該公司網站上的新聞稿所述，GH200 超級晶片消除了對傳統 CPU-GPU PCIe 連接的需求。他們結合了處理器 NVIDIA 基於 Arm 的 Grace 和 GPU NVIDIA H100 張量核心在一個案例中。這將 GPU 和 CPU 之間的頻寬提高了 7 倍，顯著降低了功耗，並為新型超級電腦提供了 600 GB 的 GPU Hopper 架構。 DGX GH200 架構提供的 NVLink 頻寬是上一代產品的 48 倍。
谷歌云預計 Meta 那 Microsoft 將成為首批訪問 DGX GH200 並探索其生成 AI 工作負載能力的公司之一。該製造商還打算向雲端服務供應商提供 DGX GH200 設計作為樣本，以便他們能夠對其基礎設施進行調整。
“創建高級生成模型需要人工智能基礎設施的創新方法，”計算副總裁說。 Google雲端 馬克·洛邁爾。 “NVLink 的新規模和 Grace Hopper 超級芯片內存解決了大規模 AI 中的關鍵瓶頸，我們期待探索其在 Google Cloud 和我們的生成 AI 計劃中的潛力。”
Azure 基礎設施公司副總裁 Microsoft Girish Bablani 指出 DGX GH200 在處理太字節數據集方面的潛力，這將使開發人員能夠以更快的速度進行更大規模的研究。
該公司還創建了一台超級計算機 NVIDIA 為其研究人員和開發團隊提供基於 DGX GH200 的 Helios。它將配備四個 DGX GH200 系統，每個系統都透過 Quantum-2 InfiniBand 網路互連，以提高訓練大型 AI 模型的資料吞吐量。 Helios 將包含 1024 個 Grace Hopper 超級晶片，預計今年底投入運作。
軟件 NVIDIA Base Command 提供 AI 工作流程管理、企業級叢集管理、加速運算、儲存和網路基礎架構的程式庫以及針對 AI 工作負載最佳化的系統軟體。還包括 AI Enterprise 軟體，該軟體提供 100 多個框架、預訓練模型和開發工具，以簡化生產 AI（包括生成 AI）的開發和部署 人工智能、計算機視覺、語音 AI 等等。
超電腦 NVIDIA DGX GH200 將於今年底上市。
另請閱讀：