700W功耗撑不住了!NVIDIA第一次上液冷:节能30%

2022-07-15 20:54:13 作者:科技小助手
浏览量:

关于下一代显卡,AMD、NVIDIA在台北电脑展时期都三缄其口,丝毫没有提及。AMD只讲解决器,NVIDIA则只说数据中心GPU、CPU。

NVIDIA发表,Ampere架构的计算卡A100、桌面超算HGX A100,Hopper架构的计算卡H100、桌面超算HGX H100,将在该系列中初次引入液冷散热,从而进步散热效率、升高能耗、节省空间和老本。

NVIDIA示意,它们都采纳了间接芯片(Direct-to-Chip)冷却技术。

700W功耗撑不住了!NVIDIA第一次上液冷:节能30%

HGX A100、HGX H100零碎采纳的都是SXM款式计算卡,在机架内间接整合液冷散热零碎,取代传统的零碎风冷散热,体积愈加紧凑,前者现已出货,后者往年第四季度。

A100 PCIe(80GB)、H100 PCIe独立计算卡则有些相似桌面液冷显卡,整合水冷头,不过接口搁置在尾部,以便对接液冷零碎,前者往年第三季度出货,后者明年终。

700W功耗撑不住了!NVIDIA第一次上液冷:节能30%

数据中心效劳商Equinix正在试验室中测试本人的首款液冷GPU计划,后果发现,采纳液冷技术的数据中心工作负载可与风冷设备持平,同时耗费的动力缩小了约30%。

同时,液冷版的A100/H100 PCIe只要占用一个插槽位,相比传统两个插槽位的风冷版,能够节省最多66%的机架空间。

NVIDIA预计,液冷数据中心的PUE(电源应用效率)可能达到1.15,远低于风冷的PUE 1.6。

700W功耗撑不住了!NVIDIA第一次上液冷:节能30%

700W功耗撑不住了!NVIDIA第一次上液冷:节能30%

NVIDIA GH100外围采纳台积电4nm工艺制作、CoWoS 2.5D晶圆级封装,集成800亿个晶体管、18432个CUDA外围、576个Tensor外围、60MB二级缓存,可搭配6144-bit HBM2e/HBM3高带宽内存。

H100计算卡支持SXM、PCIe 5.0两种状态,其中后者功耗高达前所未有的700W,相比A100多了整整300W。

SXM5版本只开启15872个CUDA外围、528个Tensor外围、50MB二级缓存。

PCIe 5.0版本则只有14952个CUDA外围、456个Tensor外围。

700W功耗撑不住了!NVIDIA第一次上液冷:节能30%