AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

快科技1月23日消息,AMD去年底正式發布了,首批向超算、數據中心等大客戶出貨,包括美國政府、微軟、Meta,現在一些小客戶也拿到了貨。

LaminiAI,一家新興的AI創業企業,一直與AMD關系非常好,就曬出了自己批量到貨的MI300X,將用來訓練自己的LLM大語言模型。

他們使用的是八路並行配置,單系統就有八塊這樣的加速器,從截圖里就可以看到八塊卡,只不過都處於空閒狀態,並未火力全開。

AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

早在去年7月,美國能源部旗下的勞倫斯利弗莫爾國家實驗室(LLNA)就宣布,全新的“El Capitan”(酋長岩)超算已開始安裝MI300A加速器,將在2024年滿血上線,預計性能超過200億億次浮點計算每秒。

如今,小客戶也拿到了MI300加速器,顯然產能已經上來,可以批量供貨了,對AMD來說非常關鍵。

AMD此前曾預計,MI300系列加速器將成為公司歷史上最快達到1億美元收入的產品。

AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

AMD MI300X集成八個5nm XCD加速計算模塊,共計304個計算單元,搭配四個6nm IOD模塊,集成256MB無限緩存,還有八顆共192GB HBM3記憶體,總計1530億個電晶體。

按照官方說法,MI300X的性能可以超過NVIDIA H100 80GB。

MI300A是全球首款面向AI、HPC的APU加速器,配置六個XCD模塊、228個計算單元,以及三個CCD哦快、24個Zen4 CPU核心,搭配128GB HBM3記憶體,總計1460億個電晶體。

AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

AMD MI300X加速GPU買家首秀:八路並行 死磕NVIDIA就靠它了

來源:快科技