NVIDIA
DGX GB300 Grace Blackwell Ultra
DGX GB300 NVL72 整机柜系统
点击查看详细图片
核心特性与技术规格
超强AI性能
• FP4推理: 1,400 petaFLOPS
• FP8推理: 700 petaFLOPS
• FP16训练: 360 petaFLOPS
• 总体AI性能: 1.4 exaFLOPS
• FP8推理: 700 petaFLOPS
• FP16训练: 360 petaFLOPS
• 总体AI性能: 1.4 exaFLOPS
Grace Blackwell Ultra架构
• GPU: 72x Blackwell Ultra
• CPU核心: 2,592个
• Superchips: 36 Grace CPUs
• 架构: Grace CPU + 双Blackwell Ultra GPU
• CPU核心: 2,592个
• Superchips: 36 Grace CPUs
• 架构: Grace CPU + 双Blackwell Ultra GPU
超大内存规格
• GPU显存: 20.1TB HBM3e
• 总快速内存: 37.9TB
• 单GPU显存: 288GB HBM3e
• 内存带宽: 超高速访问
• 总快速内存: 37.9TB
• 单GPU显存: 288GB HBM3e
• 内存带宽: 超高速访问
NVLink互联架构
• NVLink交换机: 9x L1 NVLink
• 全GPU互联: 72个GPU
• 系统带宽: 130TB/s
• 一体化设计: 统一内存空间
• 全GPU互联: 72个GPU
• 系统带宽: 130TB/s
• 一体化设计: 统一内存空间
高速网络
• 计算网络: 72x ConnectX-8 800Gb/s
• 管理网络: 18x BlueField-3 200Gb/s
• 协议支持: InfiniBand + Ethernet
• 网络架构: NVIDIA NVLink Switch System
• 管理网络: 18x BlueField-3 200Gb/s
• 协议支持: InfiniBand + Ethernet
• 网络架构: NVIDIA NVLink Switch System
整机柜设计
• Compute Tray: 18个
• NVSwitch Tray: 9个
• 电源Tray: 6个(33KW each)
• 总功耗: 140KW
• NVSwitch Tray: 9个
• 电源Tray: 6个(33KW each)
• 总功耗: 140KW
液冷散热系统
• 冷却方式: 100%液冷
• CDU支持: in-rack/in-row CDU
• 制冷能力: 最高2000KW
• 高密度设计: 适配现代数据中心
• CDU支持: in-rack/in-row CDU
• 制冷能力: 最高2000KW
• 高密度设计: 适配现代数据中心
软件与管理
• NVIDIA Mission Control
• NVIDIA AI Enterprise
• NVIDIA DGX OS
• 支持Ubuntu操作系统
• NVIDIA AI Enterprise
• NVIDIA DGX OS
• 支持Ubuntu操作系统
适用场景
• 万亿参数模型训练
• 大规模AI推理
• 生成式AI应用
• AI reasoning时代基础设施
• 大规模AI推理
• 生成式AI应用
• AI reasoning时代基础设施
扩展能力
• 可扩展至: 数万个Superchips
• DGX SuperPOD: 大规模集群
• MGX机架: 标准化部署
• 企业级: 3年硬件软件支持
• DGX SuperPOD: 大规模集群
• MGX机架: 标准化部署
• 企业级: 3年硬件软件支持