英伟达新推AI硬件:H200 NVL GPU与GB200 NVL4超级芯片性能大提升

   时间:2024-11-19 13:09 来源:ITBEAR作者:沈如风

英伟达在SC24超算大会上推出了两款全新的AI硬件产品,为AI计算领域带来了新的突破。此次发布的硬件包括H200 NVL PCIe GPU和GB200 NVL4超级芯片,两款产品均针对特定的市场需求进行了优化。

针对那些机架电力供应有限且采用空气冷却的数据中心,英伟达推出了H200 NVL PCIe GPU。这款AI计算卡采用了PCIe AIC形态,专为低功耗风冷环境设计。尽管其TDP功耗从H200 SXM的700W降低到了600W,但HBM内存容量和带宽依然保持在141GB和4.8TB/s的高水平。H200 NVL还支持双路或四路的900GB/s NVLink桥接器互联,使得多卡之间的数据传输更加高效。

英伟达强调,H200 NVL的内存容量是前代产品H100 NVL的1.5倍,带宽也提升了1.2倍,从而实现了1.7倍的AI推理性能提升。在HPC应用中,其性能也高出30%。这样的性能提升对于需要处理大量数据和复杂计算任务的企业来说,无疑是一个巨大的福音。

除了H200 NVL之外,英伟达还推出了面向单服务器解决方案的GB200 NVL4超级芯片。这款超级芯片将2个Grace CPU和4个Blackwell GPU进行了聚合,形成了一个强大的计算单元。其HBM内存池容量高达1.3TB,相当于两组GB200 Grace Blackwell超级芯片的组合。然而,这样的性能提升也带来了更高的功耗,整体功耗达到了5.4kW。

与上代GH200 NVL4系统相比,新的GB200 NVL4在模拟性能上提升了2.2倍,AI训练性能和AI推理性能也分别提升了1.8倍。这样的性能提升使得GB200 NVL4成为了处理大规模数据和复杂计算任务的首选解决方案。据英伟达透露,GB200 NVL4超级芯片将于2025年下半年正式上市,届时将为企业带来更加高效和强大的计算能力。

 
 
更多>同类内容
全站最新
热门内容