要想“拿捏”AI芯片,HBM很關(guān)鍵,企業(yè)巨頭之間開戰(zhàn)
隨著AI半導(dǎo)體競(jìng)爭(zhēng)不斷加劇,芯片代工產(chǎn)業(yè)因需求停滯和產(chǎn)能過剩,面臨新挑戰(zhàn)。AI關(guān)鍵的高帶寬內(nèi)存(HBM),也陷入主導(dǎo)地位爭(zhēng)奪戰(zhàn)。
韓媒Business Korea報(bào)道,三星已將泰勒廠運(yùn)營時(shí)間從2024年底延至到2026年,可能考慮到代工市場(chǎng)而調(diào)整投資速度。今年全球芯片代工產(chǎn)業(yè)前景,臺(tái)積電總裁魏哲家表示,今年全球芯片代工產(chǎn)業(yè)增長(zhǎng)從上次說明會(huì)20%,下修至14%-19%。
此外,EUV曝光設(shè)備市場(chǎng)需求也暴跌,從去年第四季的56億歐元降至今年第一季的6.56億歐元,降幅達(dá)88.4%。也因此,在需求降低的狀況下,明年新廠將激活,也使人們擔(dān)心產(chǎn)能過剩問題。
目前臺(tái)積電在美國亞利桑那州的兩座廠將分別于2025、2028年投產(chǎn);日本熊本廠已于2月開業(yè),第二間工廠將于2027年前投產(chǎn)。至于英特爾則計(jì)劃在美國、歐洲和以色列各地創(chuàng)建新的代工廠。
對(duì)AI半導(dǎo)體相當(dāng)重要的HBM市場(chǎng),三星與“SK海力士與臺(tái)積電聯(lián)盟”競(jìng)爭(zhēng)逐漸加劇。目前三星電子2月成功開發(fā)業(yè)界首款最高容量的12層HBM3E,試圖重新奪回市場(chǎng)主導(dǎo)地位,第二季連同8層產(chǎn)品一起供貨英偉達(dá)(Nvidia),下一步目標(biāo)是推出16層HBM4。
HBM:不惜一切為帶寬
考慮到現(xiàn)代類型內(nèi)存的性能規(guī)格和功能,HBM 在帶寬需求大的應(yīng)用程序中如此受歡迎的原因顯而易見。每個(gè)堆棧的速度約為 1.2 TB/s,任何傳統(tǒng)內(nèi)存都無法在帶寬方面擊敗 HBM3E。但這種帶寬是有代價(jià)的,并且在容量和成本方面存在一些限制。
人工智能工程聯(lián)盟MLCommons的執(zhí)行董事 David Kanter 表示:“HBM 不僅具有優(yōu)越的帶寬,而且還具有功耗,因?yàn)榫嚯x很短。” “主要弱點(diǎn)是它需要先進(jìn)的封裝,目前限制了供應(yīng)并增加了成本?!暗?HBM 幾乎肯定會(huì)永遠(yuǎn)占有一席之地?!?/span>
HBM 的這些特性使得 DDR、GDDR 和 LPDDR 類型的內(nèi)存也用于許多需要帶寬的應(yīng)用,包括 AI、HPC、圖形和工作站。美光表示,這些容量?jī)?yōu)化和帶寬優(yōu)化類型內(nèi)存的開發(fā)正在迅速進(jìn)行,因此人工智能硬件開發(fā)人員對(duì)它們有明確的需求。
美光計(jì)算和網(wǎng)絡(luò)業(yè)務(wù)部高級(jí)經(jīng)理 Krishna Yalamanchi 表示:“HBM 是一項(xiàng)非常有前途的技術(shù),其市場(chǎng)未來增長(zhǎng)潛力巨大?!?“目前應(yīng)用主要集中在人工智能、高性能計(jì)算等需要高帶寬、高密度、低功耗的領(lǐng)域。隨著越來越多的處理器和平臺(tái)采用它,該市場(chǎng)預(yù)計(jì)將快速增長(zhǎng)?!?/span>
有分析人士指出,自 2012 年以來,訓(xùn)練模型以每年 10 倍的速度增長(zhǎng),而且看起來[增長(zhǎng)]并沒有放緩?!?/span>
特別有趣的是,那些需要 HBM 的公司往往會(huì)在一夜之間采用該標(biāo)準(zhǔn)的最新版本。
為此Gartner預(yù)測(cè),高帶寬內(nèi)存的需求預(yù)計(jì)將從 2022 年的 1.23 億 GB 激增至 2027 年的 9.72 億 GB,這意味著 HBM 位需求預(yù)計(jì)將從 2022 年占 DRAM 整體的 0.5% 增加到 2027 年的 1.6%這一激增歸因于標(biāo)準(zhǔn) AI 和生成 AI 應(yīng)用中對(duì) HBM 的需求不斷升級(jí)。
Gartner分析師認(rèn)為,HBM收入將從2022年的11億美元增至2027年的52億美元,而HBM價(jià)格相對(duì)2022年的水平將下降40%。Gartner指出,由于技術(shù)進(jìn)步和內(nèi)存制造商的承諾不斷增加,HBM 堆棧的密度也將增加,從 2022 年的 16 GB 增加到 2027 年的 48 GB。與此同時(shí),美光似乎更為樂觀,預(yù)計(jì)在 2026 年左右推出 64 GB HBMNext (HBM4) 堆棧。HBM3 和 HBM4 規(guī)范允許構(gòu)建 16-Hi 堆棧,因此可以使用 16 個(gè) 32-Gb 器件構(gòu)建 64 GB HBM 模塊,但這將要求內(nèi)存制造商縮短內(nèi)存 IC 之間的距離,其中包括使用新的生產(chǎn)技術(shù)。
鑒于 Nvidia 占據(jù)了計(jì)算 GPU 市場(chǎng)的最大份額,該公司很可能成為業(yè)界最大的 HBM 內(nèi)存消費(fèi)者,并且這種情況將持續(xù)一段時(shí)間。
但我們也不得不承認(rèn),HBM難度極大。
HBM供不應(yīng)求,海力士、三星積極擴(kuò)產(chǎn)
如今AI領(lǐng)域發(fā)展得如火如荼,HBM的市場(chǎng)規(guī)模也隨之水漲船高。
據(jù)悉,當(dāng)下主流AI訓(xùn)練芯片均使用HBM,一顆GPU配多顆HBM。其中,英偉達(dá)1顆H100配5顆HBM3、容量80GB,H200使用6顆HBM3E(全球首顆使用HBM3E的GPU)、容量達(dá)144GB。
3月18日,英偉達(dá)宣告稱,公司的B100和B200使用192GB(8個(gè)24GB8層HBM3E),HBM用量進(jìn)一步提升。
此外,超威半導(dǎo)體(AMD.US)的MI300系列、谷歌的TPU系列均使用HBM。
在具體的市場(chǎng)規(guī)模方面,據(jù)了解,在AI沒有爆發(fā)之前,市場(chǎng)預(yù)測(cè)全球HBM將平穩(wěn)增長(zhǎng)至一個(gè)100億美元的市場(chǎng)。
而根據(jù)新的測(cè)算,2023年HBM市場(chǎng)規(guī)模為40億美元,預(yù)計(jì)2024年增長(zhǎng)至150億美元,到2026年增長(zhǎng)至接近250億美元,年復(fù)合增速高達(dá)80%以上。
值得注意的是,于2023年11月,海力士CEO稱,預(yù)計(jì)到2030年,海力士每年HBM出貨量將達(dá)到1億顆,隱含產(chǎn)值規(guī)模將接近300億美元,假設(shè)屆時(shí)海力士市場(chǎng)份額為50%,則整個(gè)市場(chǎng)空間將在500億美元左右。
在競(jìng)爭(zhēng)格局方面,HBM的供應(yīng)由SK海力士、三星電子和美光科技(MU.US)三大廠商壟斷,2022年三者的份額分別為50%、40%、10%。
其中,SK海力士是HBM先驅(qū),HBM3全球領(lǐng)先,與英偉達(dá)強(qiáng)綁定、是英偉達(dá)主要HBM供應(yīng)商,三星電子緊隨其后,美光科技則正在積極追趕中,HBM3E進(jìn)度直逼SK海力士。
目前,當(dāng)下的HBM市場(chǎng)處于供不應(yīng)求狀態(tài)。
而三家大廠壟斷市場(chǎng),彼此之間的競(jìng)爭(zhēng)也比較激烈。其中,SK海力士和三星電子均計(jì)劃在2024年將HBM產(chǎn)能提升2倍以上。
另外,SK海力士已在今年3月宣布開始量產(chǎn)8層HBM3E,3月底開始發(fā)貨;美光科技則跳過HBM3直接做HBM3E,已于2月底宣布量產(chǎn)8層HBM3E;三星電子則在今年2月底發(fā)布12層HBM3E。
需要指出的是,近兩年芯片領(lǐng)域一片“寒意”,SK海力士、三星電子和美光科技一度遭遇業(yè)績(jī)暴降,甚至出現(xiàn)巨虧的情況。
據(jù)美光科技披露了2024財(cái)年第二財(cái)季(截至2月29日)的業(yè)績(jī)顯示,在美國公認(rèn)會(huì)計(jì)準(zhǔn)則下(GAAP),期內(nèi)美光科技實(shí)現(xiàn)營收58.24億美元,同比增長(zhǎng)57.70%;凈利潤為7.93億美元,同比、環(huán)比均實(shí)現(xiàn)扭虧;攤薄后每股收益為0.71美元;非公認(rèn)會(huì)計(jì)準(zhǔn)則凈收益為4.76億美元,攤薄后每股收益0.42美元。
美光科技CEO認(rèn)為,在AI帶來的機(jī)遇中,美光是半導(dǎo)體行業(yè)最大的受益者之一。
之所以這么說,是因?yàn)槊拦饪萍加诮衲?月26日宣布開始量產(chǎn)HBM3E高帶寬內(nèi)存(第五代HBM,是市場(chǎng)針對(duì)AI應(yīng)用的最高規(guī)格DRAM產(chǎn)品)。
在第二財(cái)季電話會(huì)上,美光科技披露,公司新品HBM3E芯片今年的產(chǎn)能已全部賣光,明年的大部分產(chǎn)能也已經(jīng)被預(yù)定。
而HBM3E將供給英偉達(dá)(NVDA.US)的AI芯片H200GPU。
美光科技還預(yù)計(jì),2024財(cái)年,HBM系列產(chǎn)品將為公司帶來數(shù)億美元的營收,甚至有望比肩公司第二大業(yè)務(wù)—NAND業(yè)務(wù)。
美光科技的情況如此,SK海力士和三星電子也都受益于HBM產(chǎn)品的爆發(fā)。
工藝、設(shè)備、材料國內(nèi)廠商不斷導(dǎo)入,國產(chǎn)自主可控進(jìn)程加速
半導(dǎo)體先進(jìn)封裝尤其是HBM CoWoS封裝核心增量來自Bumping、TSV、RDL等工藝,增量需求最大的設(shè)備主要為檢/量測(cè)、減薄、電鍍、鍵合、模塑機(jī)臺(tái),并且先進(jìn)封裝也為激光切割機(jī)、固晶機(jī)、回流爐、后道測(cè)試機(jī)/分選機(jī)/探針臺(tái)等傳統(tǒng)封裝設(shè)備帶來一定需求提升。
用于高端先進(jìn)封裝的設(shè)備份額主要為海外廠商占據(jù),例如先進(jìn)封裝檢/量測(cè)領(lǐng)域的Camtek、ONTO;減薄領(lǐng)域的DISCO;電鍍領(lǐng)域的AMAT、ASMPT;鍵合領(lǐng)域的SUSS、EVG Group;塑封領(lǐng)域的TOWA、YAMADA等;芯片貼裝領(lǐng)域的BESI等。由于AI等領(lǐng)域需求旺盛,Camtek、BESI、SUSS等廠商面向先進(jìn)封裝如HBM和異構(gòu)集成、AI應(yīng)用的訂單均創(chuàng)下歷史新高,并仍在持續(xù)增長(zhǎng);
用于高端先進(jìn)封裝的材料品類繁多,且更為分散,主要包括IC封裝載板、ABF基板層介電材料、制造封裝基板核心層材料、環(huán)氧樹脂固態(tài)封裝材料、導(dǎo)線架、焊線材、底部填充劑等,市場(chǎng)份額大多被美國、日本、德國廠商占據(jù),核心供應(yīng)商包括日本住友化學(xué)、日本昭和電工、美國杜邦等。
AI對(duì)GPU高帶寬需求將催生HBM將近百億美金市場(chǎng),以HBM為代表的先進(jìn)封裝封測(cè)技術(shù)、設(shè)備和材料等需求有望持續(xù)提升。據(jù)前文預(yù)計(jì),到2024年HBM有望營收至89億美元。以HBM為代表的先進(jìn)封裝市場(chǎng)對(duì)封測(cè)技術(shù)、先進(jìn)封裝設(shè)備及材料需求持續(xù)增長(zhǎng),同時(shí)國內(nèi)先進(jìn)封裝封測(cè)、設(shè)備、材料等產(chǎn)業(yè)鏈有望持續(xù)受益,國內(nèi)廠商在相關(guān)領(lǐng)域不斷導(dǎo)入。
