Tag: 加速卡

快科技5月15日消息，AMD公司近日宣布，其專為大型數據集和內存受限型應用設計的Alveo V80計算加速卡，已實現量產出貨。 AMD官網對Alveo V80計算加速卡的建議零售價為9495美元，折合人民幣約68744元。 這款加速卡針對高性能計算（HPC）、數據分析、金融、網絡安全和計算存儲等領域，能夠通過FPGA硬體靈活優化工作負載，提供強大的計算支持。 Alveo V80加速卡基於7nm工藝的AMD Versal XCV80 HBM系列自適應SoC，具備2574K個LUT邏輯單元和10848個DSP計算邏輯片。 該卡配備了兩個16GB的HBM2E內存堆棧，提供高達819GB/的內存帶寬，並且支持通過卡上DDR4插槽擴充至32GB內存規模。 此外，Alveo V80還具備4個QSFP56網絡接口，每個接口支持200G網絡，相較於僅支持PCIe連接的GPU，提供了更充足的互聯帶寬。 該卡支持PCIe Gen4x16單埠或Gen5x8雙埠，並在尾部提供了3個MCIO擴展埠，以適應不同的系統需求。 來源：快科技

AMD的新一代GPU加速卡MI300A、MI300X具備了挑戰NVIDIA的能強大力，當然沒法賣給中國，為此，但還是被美國政府認為性能太強而禁售。 AMD在今年1月31日提交的一份文件中，出現了“MI388X”的名字，並承認同樣無法賣給中國。 顯然，這是AMD為中國市場定製的又一款GPU加速卡產品，命名都這麼貼心，可惜還是被攔住了。 AMD還在文件中確認，MI250、MI300A、MI300A都被禁止銷售到中國市場，甚至是Versal VC2802、VE2802這樣的高端FPGA都在禁售之列。 AMD指出，上述產品不但不能直接賣給中國客戶，甚至那些只要是歸屬公司位於D5國家的客戶，都不會獲得授權。 不過，這份文件中國並未列出MI309，一種可能就是MI309是後期又開發的。 來源：快科技

快科技3月28日消息，NVIDIA AI GPU加速卡雖然無論性能還是市場都遙遙領先，AMD也不甘示弱，硬是殺出了一條生路，得到了大量客戶的青睞。 聯想北美總裁Ryan McCurdy在接受采訪時表示，AMD MI300系列加速卡的需求是迄今為止最高的，聯想正在進行測試和負載驗證，一切都在有條不紊地推進。 雖然他沒有透露更具體的數字，但是可以看出，AMD MI300系列無疑得到了充分的認可，尤其是在NVIDIA近乎壟斷的情況下，市場更需要一家同樣給力的競爭廠商。 當然，聯想也不會就此冷落NVIDIA，而是會堅持與不同夥伴的合作。 McCurdy直言，無論是NVIDIA還是AMD，無論是Intel還是微軟，他們都會通力合作，不斷推出各自的新產品。 此前有調查顯示，大約50％的受訪者表示對AMD MI300X充滿信心，原因是相比NVIDIA H100系列不但性價比更高，而且供貨充足，不會因為缺貨而加價。 來源：快科技

快科技3月7日消息，三星日前宣布了全球首款36GB超大容量的新一代高帶寬內存HBM3E，而在3月19日凌晨開幕的NVIDIA GTC 2024技術大會上，三星將首次進行公開展示。 三星HBM3E採用了24Gb顆粒、12層堆疊(12H)，從而將單顆容量做到史無前例的36GB，帶寬也提升至1280GB/，相比前代8H HBM3容量、帶寬都提升了50％，垂直密度則增加了超過20％。 NVIDIA H200 AI加速卡將首發採用三星36GB HBM3E，只需要八顆，就能達成6144-bit的位寬、216GB的容量，從而超過192GB HBM3內存的AMD Instinct MI300X。 H200還支持四路、八路互連，因此單系統的HBM3E內存容量可以達到864GB、1728GB！ 按照慣例，NVIDIA可能會出於良品率的考慮，屏蔽一小部分容量，但是單卡超過200GB、單系統超過1.6TB必然是很輕松的。 按照NVIDIA的說法，H200雖然還是Hopper架構，但相比H100再次飛躍，700億參數Llama2、1750億參數GTP-3模型的推理性能分別提升多達90％、60％，對比前代A100 HPC模擬性能直接翻番。 NVIDIA H200計劃2024年第二季度出貨，三星36GB HBM3E則會在第一季度投入量產，正好趕得上。 來源：快科技

如今無論是NVIDIA還是AMD，都不約而同地降低了遊戲顯卡的優先級，將更多精力投入AI加速計算卡。 無它，皆為利往。 AMD在發布第三季度財報後就明確表示，Instinct MI300X加速卡有望成為AMD歷史上以最快速度達到1億美元銷售額的產品。 NVIDIA目前在AI加速卡市場上處於近乎壟斷地位，畢竟硬體強大，軟體生態也好用，但受制於有限的產能、高昂的價格，不少客戶開始尋找替代方案，Intel、AMD都是可選項，尤其是AMD Instinct系列硬體越來越強大，開發平台也逐漸成熟起來。 MI300X是純GPU加速卡，擁有史無前例的額530億個電晶體，配備多達192GB HBM3內存，已於第三季度出樣，寄託了AMD極大的期望。 它還有個衍生版本MI300A，是全球首款面向HPC、AI的APU融合加速卡，集成24個Zen4 CPU核心和數量不明的CDNA3 GPU核心，總計1460億個電晶體，還有128GB HBM3，Socket獨立封裝，已經供貨客戶。 與NVIDIA類似的是，AMD也把GPU產能優先分配給了Instinct系列。 至於遊戲卡，RX 7900 XTX可能會是很長一段時間AMD的卡皇，或許有升級版RX 7950系列，但是下一代RX 8000系列將不會有旗艦卡。 AMD CEO蘇姿豐表示，數據中心GPU將在2023年第四季度給AMD帶來約4億美元的收入，2024年隨著大量產品鋪貨，收入將超過20億美元。 這得賣多少遊戲卡才能賺到啊！ 來源：快科技

AMD在成功賽靈思後，產品線得到了極大豐富，尤其是基於FPGA的各種解決方案，在各行各業都有廣泛的應用。 快科技9月28日消息，AMD宣布推出“Alveo UL3524”，一款面向超低時延電子交易的金融科技加速卡，支持以納秒級的速度進行電子交易，可為自營交易商、做市商、對沖基金、經紀商、交易所提供一流的FPGA平台。 Alveo UL3524加速卡採用定製的16nm工藝Virtex UltraScale+ FPGA，新穎的收發器架構，包括64個超低時延收發器，還有78萬個FPGA架構查找表(LUT)、1680 個DSP計算片，可加速硬體中的定製交易算法，再加上硬化且優化的網絡連接核，從而實現突破性能。 相比上代FPGA技術，Alveo UL3524的時延性能提升了7倍，FPGA收發器時延小於3納秒，畢竟在超低時延交易中，1納秒就能決定交易的盈虧。 為了簡化AI在算法交易市場中日益普遍的採用，AMD還為開發人員提供了開源且受到社區支持的FINN開發框架，並使用了PyTorch、神經網絡量化技術，確保低時延性能。 AMD Alveo UL3524加速卡已經投入量產，並向全球金融服務客戶供貨，並由領先的交易公司進行部署。 解決方案合作夥伴包括Alpha Data、Exegy、Hypertec等等。 來源：快科技

美國已經針對中國全面禁止銷售NVIDIA A100、H100等加速計算卡，但這還沒完，中東地區也給禁售了。 NVIDIA在一份聲明中披露，上個季度，美國政府發出通知，部分客戶和地區購買A100、H100等產品需要額外的許可協議，包括中東地區的一些國家。 不過，NVIDIA並未透露具體涉及哪些國家。 近些年，沙烏地阿拉伯、阿聯都在大力強化AI，並且購買了大量的NVIDIA產品，同時兩個國家與中國關系越來越密切。 美國政府的擔心有兩點，一是這些國家購買NVIDIA H100、A100產品後，可能會轉賣給中國，二是中國企業會在海外訓練自己的AI模型。 NVIDIA強調，雖然有新的禁令，但不會對其收入產生明顯影響，同時也在積極與美國政府溝通，希望解決此問題。 此前，NVIDIA曾公開表示，美國將升級對中國AI的監管措施，而新的禁令限制一旦實施，將導致NVIDIA失去在全球最大市場之一競爭和領先的機會。 來源：快科技

NVIDIA AI加速卡無疑是當下最為火爆的產品，妥妥的一卡難求。有分析認為，H100的全球需求量多達43.2萬塊，但交付周期長達3-6個月。 價格更是一路走高，H100目前已經賣到3.5萬美元左右，而且很多時候是有錢也買不到。 微博網友“飯統戴老闆”分析了一下H100的物料硬體成本，並結合相關數據資料，提出了一些有趣的觀點。 H100的物料成本(BOM)包括核心邏輯晶片、HBM內存晶片、CoWoS封裝三大部分，還有PCB電路板、其他元器件等。 H100核心邏輯晶片的面積為814平方毫米，採用台積電4N工藝製造(5nm+)，該節點下一塊300mm晶圓的報價為1.34萬美元，面積大約70695平方毫米，理論上能切割80多顆H100，再結合良率、損耗，就算65顆好了，單顆價格200美元左右。 HBM3內存晶片來自韓國SK海力士，一共六顆，單顆容量16GB，而每GB價格大約15美元，合計1500美元左右——是的，比核心晶片貴多了。 CoWoS封裝來自台積電技術，成本不詳，但台積電財報稱CoWoS工藝的營收占比為7％，客戶只有NVIDIA、AMD，分析師Robert Castellano據此推算製造一顆H100需要723美元左右。 三者合計約2500美元(台積電拿走約1000美元)，再加上其他物料合計在3000美元左右。 也就是說，H100的毛利率超過了90％！ 正是在H100、A100、A800等加速卡產品的帶動下，NVIDIA今年二季度的毛利率已經達到了恐怖的70％。 當然，這只是純硬體成本，而比硬體更珍貴的是軟體，是生態，這才是NVIDIA真正無敵的地方，這才是無論Intel還是AMD都難以企及的地方。 人人都知道CUDA的強大與好用，而這正是NVIDIA幾十年如一日砸下數百億研發資金的成果。目前，NVIDIA在全球有超過2萬名軟硬體工程師。 刨除各種成本，NVIDIA的淨利率依然有30-40％左右，這就是本事！ 來源：快科技

在這個AI爆火的時代，NVIDIA A100/H100系列加速卡成了香餑餑，價格也被炒得一高再高，有時候十幾萬才能買一塊。 GPU加速雲服務商CoreWeave近日做出驚人之舉，利用手中的NVIDIA H100加速卡作為抵押，拿到了23億美元的債務融資，約合人民幣165億元。 CoreWeave已經采購了大量的NVIDIA H100加速卡和HGX H100超級計算機平台，具體多少不得而知，但他們依然覺得不夠用，還需要更多來建設新的數據中心，又缺錢買不起了，就想到了拿這個“硬通貨”去做抵押。 投資機構對於NVIDIA H100的價值也相當信賴，磁星資本、黑石集團領銜了這一輪投資，貝萊德集團(BlackRock)、太平洋投資管理(PIMCO)、凱雷集團(Carlyle)、Coatue、DigitalBridge等也都參與其中。 在此之前，CoreWeave曾融資4.21億美元，估值超過20億美元。 來源：快科技

AMD今天發布了一款全新的產品，面向數據中心視頻編碼加速的“Alveo MA35D”，競品是Intel GPU Flex、NVIDIA T4/L4。 該技術是AMD從自賽靈思收購的，這是第一次以AMD的品牌發布新品。 Alveo MA35D整卡採用半高半長設計，功耗僅為35W，只需被動散熱。 內部核心是兩顆VPU視頻處理晶片，專門用於視頻編碼，業界首發採用5nm工藝製造(可能來自三星)，每顆搭配8GB LPDDR5記憶體，系統接口是PCIe 5.0 x4。 VPU晶片內部集成4個視頻編碼單元，其中兩個完整支持H.264、H.265、AV1，另外兩個單獨用於AV1。 此外還有視頻解碼單元(用於轉碼)、記憶體控制器、記憶體控制器、碼率縮放單元(bitrate scaler)、合成引擎，以及一個22TOPS算力的AI單元，可進一步優化視頻編碼質量。 上代產品Alevo MU30僅支持H.264、H.265，最高解析度4K，最多8條1080p視頻流。 Alevo MA350D增加了對AV1的支持，可以同步處理32條1080p視頻流，壓縮率提升80％，最高解析度提升至8K30，延遲也大大降低到1/4，比如4K下不超過8ms。 按照官方數據，對比軟體編碼，Alveo MA35D處理H.264、H.265、AV1視頻編碼所需的碼率分別降低了24％、47％、52％。 最令人驚嘆的是，每個1080p60視頻流通道，只需要1W的功耗！ 有趣的是，Alevo MA350D雖然是屬於AMD品牌的產品，但相關技術是在賽靈思被收購之前就開發完成的，和AMD GPU視頻編解碼技術沒有關聯，當然後續AMD肯定會將兩家的IP技術逐步融合在一起。 Alevo MA350D售價1595美元，約合人民幣1.1萬元，現已試產，第三季度量產出貨。 它可廣泛用於實況直播、視頻會議、在線教育、醫療成像、虛擬購物、客戶服務、社交媒體、雲遊戲等各種領域。 來源：快科技