NVIDIA GB200 NVL4平台发布:四颗GPU+两颗CPU、功耗达5400W

 人参与 | 时间:2024-12-29 21:45:44

11月20日消息,布颗SuperComputer 2024超算大会上,两颗NVIDIA公布了一系列新产品、耗达新技术,布颗其中最亮眼的两颗当属“GB200 NVL4”计算平台,也是耗达其SuperChip超级芯片家族的一员。

这是布颗一套单服务器解决方案,在一块不大的两颗板子上,集成了四颗Blackwell GB200 GPU芯片、耗达两颗Grace CPU芯片,布颗彼此通过NVLink总线高速互联。两颗

NVIDIA GB200 NVL4平台发布:四颗GPU+两颗CPU、功耗达5400W

四颗Blackwell共拥有768GB HBM3内存,耗达合计带宽32TB/s,布颗两颗Grace GPU则有960GB LPDDR5X内存。两颗

二者合计,耗达就是恐怖的1.7TB!

该方案适合HPC、AI混合负载应用,号称对比上代GH200 NVL4,训练和图里性能高1.8倍,模拟性能高2.2倍。

当然代价就是极高的功耗,总计不可思议的5400W——一个小时5.4度电。

如果不需要 这么彪悍的方案,NVIDIA也早就提供了两颗Blackwell GB200 GPU芯片、一颗Grace GPU芯片的版本,规模减半,当然功耗也要2700W。

顶: 622踩: 69372