韓國人 卡住了英偉達的脖子

今天凌晨的時候,小發給我發了個大新聞:

老黃出手,從微軟手里買下了 Xbox,下一代的 Xbox 將有雙顯卡、 AI 加持,誓要把隔壁的 PS6 錘出人中黃來。

韓國人 卡住了英偉達的脖子

但很不幸,這是一個拙劣的愚人節惡搞!

我就說嘛,已經是 AI 軍火商的老黃,早就把遊戲佬們當成牛夫人了,怎麼可能花大價錢再來搞遊戲。

還記得前不久的 GTC 大會吧,老黃公布 B200時的狀態,可比發布希麼“破 4090 ”嗨多了。

想買老黃顯卡的人,從這里排到了法國。

但,就從世超看來,老黃還真不一定高枕無憂,至少它的脖子被韓國人狠狠卡著。

韓國人 卡住了英偉達的脖子

例如老黃最新發布的 B200晶片上,就有多達 4 疊最新的 HBM(高帶寬記憶體)記憶體晶片:HBM3e。

而這個東西,在這個星球上,目前基本上只有韓國人能量產。

韓國人 卡住了英偉達的脖子

根據 Trendforce 數據,韓國的 SK 海力士和三星,他倆在 2023 年拿捏了全球 90%的 HBM 記憶體產能。

而兩年市面上的 AI 晶片,什麼 A100 A800們,反正你能想到的,基本就沒誰能離開 HBM 記憶體。

韓國人 卡住了英偉達的脖子

所以,就在老黃的英偉達市值突破萬億的時候, SK 海力士的股價,也在去年偷偷翻了一倍多,如今市值已經突破千億了。。。

韓國人 卡住了英偉達的脖子

就連之前路線選擇錯誤的三星,股價也漲到了近兩年最高的水平。

可能大家對 HBM 記憶體技術有多重要還沒概念。

就這麼說吧,韓國在今年初已經把這個技術列為國家戰略技術,想通過給 SK 海力士和三星稅收等方面的優惠,保持著自家的領先地位。

韓國人 卡住了英偉達的脖子

甚至老黃在最新發布的 B200 AI 晶片的同時,早就給了 SK 海力士等幾百億人民幣定金,直接把這些廠今年一年的產量給包圓了。

要知道, SK 海力士上個月底剛實現量產交付 HBM3e 記憶體,這不比隔壁小米 SU7 的大定猛多了?

韓國人 卡住了英偉達的脖子

而這麼爽快的生意,可把隔壁三星饞壞了,急急忙忙在 2 月份發布了自家 HBM3e 樣品,立馬就發給滿世界客戶驗貨。

韓國人 卡住了英偉達的脖子

那為什麼 HBM 記憶體能這麼受歡迎呢?

這就不得不提記憶體技術長期以來的拉跨了。

在信息化時代,無論是遊戲還是工作,電腦系統的運行速度其實是要靠處理器和記憶體的互相配合的。

理論上,如果這倆速度接近,那肯定是最佳拍檔。

韓國人 卡住了英偉達的脖子

但過去的很長時間里,處理器的性能指數式暴漲,記憶體和硬體之間的傳輸速度,卻壓根就跟不上。

在過去 20年中,硬體的峰值計算能力增加了90000倍,但是記憶體和硬體互連帶寬卻只是提高了30倍。

打個不是很貼切的比方,處理器相當於是中華小當家,記憶體就是邊上配菜的助手,小當家技術再高,助手菜配不過來,上菜還是快不了。

所以這些年,記憶體成了拖累計算機性能的拖油瓶,甚至有人把這種現象稱為“記憶體牆”。

韓國人 卡住了英偉達的脖子

這些問題對於我們臭打遊戲的來說,還算能接受,畢竟現在用著 1066 打 3A 的人肯定還不少。

真讓他們忙不過來的,其實是這兩年的 AI 大爆發。因為 AI 大模型的基礎離不開海量的數據和算力,而要想支撐這麼大的數據處理和傳輸,就要打破“記憶體牆”。

換句話說,打遊戲對於小當家來說是點了四菜一湯,那隔壁 AI 隨便搞個訓練就相當於是要了一桌滿漢全席。

所以對於 AI 大廠們來說,記憶體牆就像是鎖死自己發展水平的智子,而 HBM 就是那個破牆者。

和傳統的 DDR 記憶體採用的"平房設計"不同,破牆者 HBM 採用了"樓房設計",來了個降維打擊。

韓國人 卡住了英偉達的脖子

在晶片里造樓,主要靠的是矽通孔( Through-Silicon Via , TSV )這種先進封裝技術。

簡單來說,就是把不同的晶片疊在一起,中間打一堆孔,然後用銅管等導電物質給接起來。

韓國人 卡住了英偉達的脖子

從物理意義上減小了數據傳輸距離、占地面積等等。

這樣一來,就能減小信號延遲、實現晶片的低功耗、增加帶寬等等一堆優點。

隨著工藝水平提升, TSV 可以越做越小,密度越來越大,堆疊 Die 層數也能越來越多,就能進一步提升帶寬和傳輸速度以及最大容量。

前面提到三星最新產品,就已經是 12 層堆棧容量高達 36 GB 的 HBM3e 了。

韓國人 卡住了英偉達的脖子

別看說起來這麼簡單,實際上, HBM 技術里從材料、設計、封裝、散熱等等環節,都是難點。

而這些技術難點,大部分都是被韓國的 SK 海力士率先攻克的。

所以,像 HBM3 和 HBM3e 也都是由 SK 海力士率先突破並實現量產。

到了 HBM3 這一代,就已經實現了高達 1024 位的數據路徑,運行速率也達到了驚人的 6.4 Gb/ ,帶寬高達 819 Gb/ 。

韓國人 卡住了英偉達的脖子

而最新的HBM3e,其實是HBM記憶體技術家族的第五代產品,它的最高數據處理速度已經達到了每秒 1.18TB(太字節),相當於 1 秒內處理 200多部全高清( FHD )級別的電影。

別看 HBM 賽道目前還有 SK 海力士、三星和美光御三家在玩,但無論是從發展時間、技術突破還是量產速度上, SK 海力士一直獨占鰲頭,光他們一家就占領了一半左右的市場份額。

排在身後的,則是同為韓國企業的三星,這傢伙今年又一口氣組建了兩個 HBM 團隊想要追趕上進度。

而美國的美光雖然放出話來,自家跳過研發 HBM3 ,直接成功完成了 HBM3e 的研究。

甚至如今還成為了英偉達的供貨商之一,但世超覺得,這麼大的口氣,還有待市場驗證。

韓國人 卡住了英偉達的脖子

所以,這麼捋下來,英偉達的 AI 軍火商計劃,還真得建立在這些 HBM 廠商的供貨上。

雖然大家都在說, AI 界硬通貨是 H100、是 B200。

誰能想到,最終居然還被韓國卡著一道呢?

撰文:八戒編輯:江江 & 面線封面:煥妍

圖片、資料來源:

太平洋證券:AI伺服器催化HBM需求爆發,核心工藝變化帶來供給端增量 —算力系列報告(一)

東方財富證券:玻璃通孔(TGV)為矽通孔(TSV)有效補 充,AI+Chiplet趨勢下大有可為

中郵證券:先進封裝關鍵技術——TSV 研究框架

Micron:Micron Commences Volume Production of Industry-Leading HBM3E Solution to Accelerate the Growth of AI

SK hynix:SK hynix Develops World's Best Performing HBM3E, Provides Samples to Customer for Performance Evaluation

Samsung:Samsung Develops Industry-First 36GB HBM3E 12H DRAM

NVIDIA:NVIDIA DGX B200

半導體產業縱橫:HBM3E起飛,沖鋒戰鼓已然擂響

華爾街見聞:高盛談HBM:四年十倍的市場,海力士將占據過半份額,美光或後來居上

來源:快科技