700W功耗性能猛獸 售價超24萬元 NVIDIA稱H100顯卡全面投產

最近幾個月來以ChatGPT為代表的AI大火,也導致了訓練AI用的NVIDIA加速顯卡備受追捧,黃仁勛也多次推薦大家購買A100顯卡,不過這並不是NVIDIA最新最強的AI卡,去年發布的H100才是性能猛獸。

至於黃仁勛為何不重點推H100加速卡,主要是這款顯卡之前產量不多,但在日前的GTC 2023大會上,黃仁勛宣布H100已經全面投產,並部署在多家客戶的雲計算服務中,包括微軟的Azure、Google、甲骨文等客戶數據中心。

700W功耗性能猛獸 售價超24萬元 NVIDIA稱H100顯卡全面投產

H100加速卡與2022年3月份的GTC大會上發布,採用Hopper架構,GH100大核心,台積電4nm製造工藝、CoWoS 2.5D封裝技術,集成800億個電晶體,核心面積814平方毫米。

它擁有18432個CUDA核心、576個Tensor核心、60MB二級緩存,支持6144-bit位寬的六顆HBM3/HBM2e,支持PCIe 5.0,支持第四代NVLink總線。

H100計算卡有SXM、PCIe 5.0兩種樣式,其中SXM版本15872個CUDA核心、528個Tensor核心,PCIe 5.0版本14952個CUDA核心、456個Tensor核心,功耗最高達700W。

性能方面,FP64/FP32 60TFlops(每秒60萬億次),FP16 2000TFlops(每秒2000萬億次),TF32 1000TFlops(每秒1000萬億次),都三倍於A100,FP8 4000TFlops(每秒4000萬億次),六倍於A100。

售價方面,H100的官方建議價一直沒公布,但日本市場之前預售的價格是475萬日元,約合人民幣24.2萬元,比A100的價格至少翻倍了。

700W功耗性能猛獸 售價超24萬元 NVIDIA稱H100顯卡全面投產

來源:快科技