英特爾在Vision 2024活動上宣布，推出Gaudi 3加速器，在前身Gaudi 2的性能和可擴展性基礎上，為全球企業帶來了生成式AI選擇。英特爾表示，相比於英偉達的H100，Gaudi 3的訓練性能提高了70%，推理能力提高了50%，效率提高了40%，同時功耗會更低。
相比於Gaudi 2，新一代的Gaudi 3提供了兩倍的FP8和四倍的FP16性能；製造工藝由7nm升級到了5nm，由台積電（TSMC）負責製造；採用第五代張量處理核心，內核數量由24個增加到了64個，另外還有8個矩陣計算引擎；記憶體和緩存從96GB HBM2E / 48MB提高到了128GB HBM2E / 96MB，記憶體帶寬從2.45TB/s提升至3.7TB/s；網絡連接從24個100GbE變成了24個200GbE；提供了TDP為600W的PCIe 5.0雙槽擴展卡和TDP為900W的OAM模塊。
雖然PCIe擴展卡的TDP比起OAM模塊低了300W，但是FP8峰值性能是一樣的，均為1835 TeraFLOPS，只不過持續性能可能會低一些。PCIe版本可以四塊為一組在每個系統中運行，而OAM版可以在每台伺服器里以8塊為一組來配置。英特爾還為Gaudi 3加速器提供了針對性的生成式AI提供端到端全棧AI軟體解決方案，包括嵌入式軟體、軟體套件、AI軟體和AI應用。
英特爾計劃在今年第三季度向客戶發貨Gaudi 3加速器，包括聯想、惠普、Dell和Supermicro等OEM廠商會使用這款新品構建系統。英特爾並沒有透露Gaudi 3加速器的定價，傳聞比起H100會低很多。
來源：超能網
