微軟推出128核心Arm架構CPU,以及針對AI應用的GPU

上個月就有報導稱,微軟和OpenAI正在開發自己的AI晶片,並計劃在11月發布,希望可以更高效、更低成本地適配其開發的大型語言模型(LLM),滿足未來算力的需求。此前微軟先後向OpenAI投資了數十億美元,利用英偉達最新的H100計算卡,以滿足處理訓練和擴展AI所需的巨大計算負載。

這次開發者大會上,微軟宣布推出其晶片實驗室設計的兩款定製晶片,分別是Azure Maia 100 AI加速器和Azure Cobalt 100處理器。

微軟推出128核心Arm架構CPU,以及針對AI應用的GPU

微軟表示,目前這些晶片都處於「部署的第一階段」,明年初會出現在數據中心,首先用於運行Copilot、Azure OpenAI和其他服務。微軟沒有透露具體有多少晶片可用,但即便有了自己的定製晶片,未來仍將使用英偉達和AMD等合作夥伴的晶片為客戶服務。

Azure Maia 100 AI加速器所使用的GPU就是代號為「雅典娜(Athena)」的項目,基於台積電(TSMC)的5nm工藝製造,擁有1050億個電晶體,目前初始伺服器正在接受GPT 3.5 Turbo的測試。Azure Cobalt 100處理器擁有128核心,支持64位Armv9指令集,使用了Arm為微軟定製的Neoverse CSS平台,可能是基於Neoverse N2內核。

微軟推出128核心Arm架構CPU,以及針對AI應用的GPU

微軟稱,Maia的伺服器採用完全定製的基於乙太網的網絡協議設計,可實現更好的擴展性和端到端工作負載性能。

來源:超能網