微軟雲計算服務將率先採用Instinct MI300X,將用於生成式AI領域

微軟與AMD宣布,微軟的雲計算服務將率先採用Instinct MI300X計算卡,配合第四代EPYC伺服器處理器打造了全新Azure雲端虛擬機。這些新實例將用在雲計算和生成式人工智慧領域,並進行了相關的優化,提供更強的性能、更新的服務和額外的計算能力。

Azure ND MI300x v5虛擬機將是第一個採用Instinct MI300X計算卡的雲端平台,CDNA 3架構GPU帶來了巨大的性能飛躍,192GB的超大顯存容量能夠加速高性能計算(HPC)和人工智慧(AI)工作負載。微軟與AMD還展示了如何通過AMD的產品組合,在雲端和生成式AI、加密運算、雲計算以及更智能、更智能的個人電腦領域實現了新的服務和計算能力。

微軟雲計算服務將率先採用Instinct MI300X,將用於生成式AI領域

根據之前AMD的官方介紹,Instinct MI300X屬於純GPU設計,採用5nm工藝製造,具有8個XCD(最多304個CU / CDNA 3架構)和8個HBM3堆棧(共192GB),是數據中心使用的傳統加速器。

微軟表示,除了Instinct MI300X計算卡,第四代EPYC伺服器處理器還會為通用、記憶體密集型和計算優化的虛擬機提供動力。這些新的虛擬機不僅提供了具有競爭力的價格,而且還提供了20%的標准性能提升和兩倍於面向計算的虛擬機的性能提升。

來源:超能網