RTX 40系列發(fā)布之后,黃仁勛曾經(jīng)親口確認(rèn),SLI技術(shù)已經(jīng)被徹底放棄。
不過(guò)現(xiàn)在,NVIDIA又以另一種方式復(fù)活了它,這就是最新發(fā)布的數(shù)據(jù)中心加速計(jì)算卡H100 NVL。
NVIDIA一年前就發(fā)布了Hopper架構(gòu)的新一代計(jì)算卡H100,具備三個(gè)NVLink總線(xiàn),可以組建多卡互連。
H100 NVL則不太一樣,單卡集成兩顆H100 GPU,彼此通過(guò)NVLink互連,一致對(duì)外。
這顯然是給那些不支持SXM的服務(wù)器準(zhǔn)備的,適合大規(guī)模AI推理訓(xùn)練。
它的規(guī)格基本就是H100 SXM版本翻一番甚至還多:33792個(gè)CUDA核心、1056個(gè)Tensor核心、188GB HBM3高帶寬內(nèi)存、7.8TB/s帶寬、700-800W功耗。
性能也是直接翻倍,Tensor加持之下FP64 134萬(wàn)億次、TF32 1979萬(wàn)億次、BF16/FP16 3958萬(wàn)億次、FP8/INT8 7916萬(wàn)億次。
H100 NVL一塊卡需要占用兩個(gè)插槽,每個(gè)服務(wù)器節(jié)點(diǎn)可以配備2塊或者4塊,也就是最多八顆GPU。
那規(guī)格,那性能,還有那價(jià)格,多美麗。
(舉報(bào))