搞定1730億參數大語言模型 NVIDIA下代巨型GPU露出獠牙

快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情況,架構代號Blackwell,核心編號GB200,加速器型號B100。

NVIDIA第一次公開確認,B100將在2024年發布,但未出更具體的時間表。

此前曝料稱,B100原計劃2024年第四季度推出,但因為AI需求太火爆,,現已進入供應鏈認證階段。

搞定1730億參數大語言模型 NVIDIA下代巨型GPU露出獠牙

NVIDIA表示,B100加速器可以輕松搞定1730億參數的大語言模型,是現在H200的兩倍甚至更多。

雖然這不代表原始計算性能,但也足以令人望而生畏。

搞定1730億參數大語言模型 NVIDIA下代巨型GPU露出獠牙

同時,B100還將帶來更高級的HBM高帶寬記憶體規格。

回顧歷史,Pascal P100、Ampere A100、Hopper H100、H200分別首發應用HBM2、HBM2e、HBM3、HBM3e。

接下來的B100肯定趕不上HBM4(規范還沒定呢),但必然會在堆疊容量、帶寬上繼續突破,大大超越現在的4.8TB/。

搞定1730億參數大語言模型 NVIDIA下代巨型GPU露出獠牙

Blackwell架構同時也會用於圖形工作站和桌面遊戲,傳聞有GB202、GB203、GB205、GB206、GB207等不同核心,但是對於RTX 50系列,NVIDIA始終三緘其口,幾乎肯定到2025年才會發布。

,明年初的CES 2025首發三款型號RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER。

搞定1730億參數大語言模型 NVIDIA下代巨型GPU露出獠牙

來源:快科技