英偉達推出Grace CPU Superchip,以及CPU+GPU的Grace Hopper

在去年的GTC 2021主題演講中,英偉達執行長黃仁勛推出了名為Grace的首個數據中心CPU。這是一款基於Arm架構的CPU,在內部通信上使用了第四代NVIDIA NVLink,CPU和GPU之間可以提供高達900 GB/s的雙向傳輸帶寬,CPU與CPU之間的傳輸帶寬為600 GB/s。同時採用了LPDDR5x記憶體,可以提供500 GB/s的帶寬,並具有ECC校驗功能,Grace CPU是首個支持該類型記憶體的產品。

到了今年的GTC 2022上,英偉達在原有的Grace CPU基礎上做了進一步的擴展。首先將兩個Grace CPU封裝在一起,推出了Grace CPU Superchip,合共144個Arm v9架構CPU內核,緩存容量為396MB,具有ECC校驗功能的LPDDR5x記憶體帶寬達到了1TB/s。據了解,Grace CPU Superchip使用的是Arm的Neoverse N2平台,也是首個使用最新的Arm v9架構的產品,意味著可以支持PCIe 5.0、DDR5、HBM3、CCIX 2.0和CXL 2.0等特性。

英偉達推出Grace CPU Superchip,以及CPU+GPU的Grace Hopper

據英偉達介紹,Grace CPU Superchip的TDP為500W,SPECint 2017成績超過了740分,每瓦性能是當今CPU的兩倍。Grace CPU Superchip旨在為AI和高性能計算應用設計,可以運行所有英偉達軟體堆棧和平台,包括了NVIDIA RTX、HPC、NVIDIA AI和NVIDIA Omniverse。

Grace CPU Superchip通過英偉達最新的NVLink-C2C進行連接,提供了900 GB/s的連接帶寬,以保證晶片到晶片互聯之間的低延遲和一致性,並允許連接的設備在同一個記憶體池上工作。相比於PCIe 5.0,NVLink-C2C能效是其25倍,面積效率是其90倍,也就是說可以在占用面積更小、功耗更低的情況下提供更高的傳輸效率。通過NVLink-C2C技術,可以創建由CPU、GPU、DPU、NIC和SoC等不同類型的小晶片構建的集成產品,幫助英偉達持續推進CPU、GPU和DPU三晶片戰略。

英偉達表示,NVLink-C2C還支持Arm的AMBA CHI(Arm AMBA Coherent Hub Interface)協議,雙方正密切合作,進一步增強其功能,以支持與其他互連處理器完全一致且安全的加速器。英偉達確認也會支持剛剛推出的UCIe規范,未來其定製晶片可以選擇使用UCIe或NVLink-C2C的方式進行互連。

英偉達推出Grace CPU Superchip,以及CPU+GPU的Grace Hopper

此外,英偉達還將最新的Hopper架構GPU和Grace CPU結合,推出了Grace Hopper。該晶片同樣使用了NVLink-C2C,將CPU和GPU連接起來。其擁有72個Arm v9架構CPU內核,GPU方面應該和H100計算卡一致,即16896個FP32 CUDA核心,配備了600GB記憶體。通過強力的CPU+GPU組合,無論是HPC還是AI計算,CPU和GPU可以更好地對工作負載進行協調分配,以達到最佳效率。

Grace CPU Superchip和Grace Hopper可以與多達8個Hopper架構GPU搭配,組成多種不同的配置。這些組合將使用NVIDIA ConnectX-7互聯晶片,通過內置的PCIe 5.0交換系統實現NVLink通信,從而支持更廣泛的系統和應用。英偉達希望Grace CPU Superchip和Grace Hopper能拓展其目標市場,通過涵蓋超大規模計算、雲端、數據分析、HPC和AI等工作負載,擴大在通用伺服器市場的影響力。

根據英偉達的時間表,Grace CPU Superchip和Grace Hopper都會在2023年上半年上市。

來源:超能網