高帶寬內(nèi)存（HBM）是支持人工智能（Generative AI）的關(guān)鍵，隨著高帶寬內(nèi)存（HBM）成為下一代內(nèi)存半導(dǎo)體的主戰(zhàn)場(chǎng)，三星電子（Samsung Electronics）和美光（Micron）之間正在醞釀激烈的競(jìng)爭(zhēng)，以搶奪目前由SK hynix壟斷的Nvidia訂單。

11 月 28 日，臺(tái)灣市場(chǎng)研究公司 TrendForce 預(yù)測(cè)，Nvidia 將在下個(gè)月完成對(duì)三星電子 HBM3 的驗(yàn)證。業(yè)內(nèi)人士認(rèn)為，三星電子目前正在向 Nvidia 供應(yīng) HBM3 樣品，根據(jù)下個(gè)月的驗(yàn)證結(jié)果，三星電子可能會(huì)與 Nvidia 簽訂正式合同。

Nvidia 的圖形處理器（GPU），尤其是高端的 H100 型號(hào)，是高價(jià)值產(chǎn)品，每個(gè)售價(jià)為 6000 萬(wàn)韓元。這種高利潤(rùn)率使 Nvidia 有可能改變存儲(chǔ)器半導(dǎo)體行業(yè)的游戲規(guī)則。作為 HBM 市場(chǎng)的領(lǐng)導(dǎo)者，SK hynix 從去年開(kāi)始向 Nvidia 獨(dú)家供應(yīng) HBM3，領(lǐng)先于三星電子。此舉幫助 SK hynix 縮小了與 DRAM 市場(chǎng)領(lǐng)導(dǎo)者三星的市場(chǎng)份額差距 4.4 個(gè)百分點(diǎn)。受 HBM 和 DDR5 等高價(jià)值產(chǎn)品業(yè)績(jī)的提振，SK hynix 的 DRAM 業(yè)務(wù)在今年第三和第四季度扭虧為盈。

由于美國(guó)內(nèi)存芯片制造商美光（Micron）將于明年量產(chǎn)第五代 HBM3E 產(chǎn)品，業(yè)界預(yù)計(jì) HBM 領(lǐng)域?qū)⑷姹l(fā) "三國(guó)殺"。預(yù)計(jì)這三家公司將展開(kāi)激烈競(jìng)爭(zhēng)，爭(zhēng)奪 Nvidia 即將推出的 H200 和 B100 人工智能半導(dǎo)體所需的 HBM3E 供貨。

據(jù)報(bào)道，隨著Nvidia計(jì)劃將其HBM供應(yīng)商多元化，以提高供應(yīng)鏈管理效率，SK hynix的單打獨(dú)斗可能會(huì)結(jié)束，迎來(lái)一個(gè)無(wú)限競(jìng)爭(zhēng)的時(shí)代。根據(jù)TrendForce的數(shù)據(jù)，從7月份的美光開(kāi)始，到8月份的SK hynix和10月份的三星電子，三家公司都提供了HBM3E樣品?？紤]到 Nvidia 通常需要六個(gè)月左右的時(shí)間來(lái)驗(yàn)證 HBM 樣品，預(yù)計(jì)供應(yīng)量的輪廓將在明年出現(xiàn)。


AI巨頭擴(kuò)大HBM采購(gòu)

ChatGPT熱潮除將GPU等AI大算力芯片推向高峰之外，也極大帶動(dòng)了市場(chǎng)對(duì)新一代內(nèi)存芯片HBM的需求。7月26日SK海力士發(fā)布第二季度財(cái)務(wù)報(bào)告，盡管整體出現(xiàn)虧損，但HBM3和DDR5 DRAM等高端產(chǎn)品銷(xiāo)售增加，第二季度營(yíng)業(yè)收入比第一季度增加44%，營(yíng)業(yè)虧損減少15%。三星和美光也表示，HBM在銷(xiāo)售額中開(kāi)始占據(jù)更大份額。

事實(shí)上，目前全球各大AI巨頭包括英偉達(dá)、AMD、微軟和亞馬遜等均已開(kāi)始加大HBM采購(gòu)，并將HBM3E作為其采購(gòu)的重點(diǎn)。這一舉措被視為在新一輪AI大戰(zhàn)中搶占先機(jī)，以應(yīng)對(duì)日益激烈的市場(chǎng)競(jìng)爭(zhēng)。

英偉達(dá)作為全球領(lǐng)先的GPU制造商，其H100、A100已廣泛應(yīng)用于AI服務(wù)器和數(shù)據(jù)中心。在面對(duì)AI應(yīng)用日益增長(zhǎng)的挑戰(zhàn)下，英偉達(dá)加大HBM3E的采購(gòu)量，旨在為其GPU提供更高性能和更快的數(shù)據(jù)傳輸速率，以滿(mǎn)足AI計(jì)算的需求。

AMD最近發(fā)布下一代GPU MI300X。MI300X面向大語(yǔ)言模型（LLM）優(yōu)化，可以支持400億個(gè)參數(shù)的Hugging Face AI 模型運(yùn)行。在存儲(chǔ)方面，MI300X采用192GB的HBM3內(nèi)存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric 帶寬。為了提高其GPU在AI應(yīng)用中的競(jìng)爭(zhēng)力，AMD將加大對(duì)HBM3E的采購(gòu)量，以進(jìn)一步提升其產(chǎn)品的性能和效率。

亞馬遜和微軟則是云服務(wù)領(lǐng)域的兩大巨頭。在大模型熱潮下，兩家公司也大幅增加投資，優(yōu)先引入生成式AI技術(shù)。亞馬遜近期投資1億美元建立人工智能創(chuàng)新中心。微軟旗下的Azure云服務(wù)則擴(kuò)大與ChatGPT開(kāi)發(fā)商O(píng)penAI的合作關(guān)系。

從發(fā)布的數(shù)據(jù)來(lái)看，HBM3E與HBM3相比，傳輸速度提升25%，從原來(lái)的6.4GT/s提升至8.0GT/s，從而將顯存的帶寬提升至1TB/s。SK 海力士將采用最新的10納米級(jí)（1b） 技術(shù)進(jìn)行HBM3E的量產(chǎn)。各大AI巨頭積極向HBM供應(yīng)商SK海力士以及三星訂購(gòu)HBM3E，以滿(mǎn)足不斷增長(zhǎng)的市場(chǎng)需求。

HBM需求暴漲

在人工智能浪潮下，市場(chǎng)需求持續(xù)激增，HBM 技術(shù)成為人們關(guān)注的焦點(diǎn)。全球市場(chǎng)研究公司集邦咨詢(xún)預(yù)計(jì)，2023 年 HBM 需求將同比增長(zhǎng) 58%，2024 年可能進(jìn)一步增長(zhǎng)約 30%。

HBM 相比較傳統(tǒng) DRAM 具有高帶寬、高容量、低延遲、低功耗等優(yōu)勢(shì)，特別適合 ChatGPT 等高性能計(jì)算場(chǎng)景。目前在 HBM3 研發(fā)最前沿的是 SK 海力士和三星兩家公司，英偉達(dá)的 H100 / H800、AMD 的 MI300 系列 AI 加速卡均采用 HBM3。

SK 海力士和三星預(yù)計(jì)將在 2024 年第一季度提供 HBM3e 樣品。另一方面，美國(guó)內(nèi)存公司美光正在繞過(guò) HBM3，直接追求 HBM3e。

HBM3e 將采用 24Gb 單晶芯片堆棧，并采用 8 層 (8Hi) 配置，單個(gè) HBM3e 芯片的容量將飆升至 24GB。HBM3e 預(yù)計(jì)將在 2025 年納入 NVIDIA 的 GB100，導(dǎo)致三大 OEM 計(jì)劃在 2024 年第一季度發(fā)布 HBM3e 樣品，并在下半年進(jìn)入量產(chǎn)。

除了 HBM3 和 HBM3e 之外，最新的更新表明存儲(chǔ)巨頭正在計(jì)劃推出下一代 HBM——HBM4。

雖然 HBM4 有望取得重大突破，但仍有一段路要走，因此現(xiàn)在討論其實(shí)際應(yīng)用和廣泛采用還為時(shí)過(guò)早。業(yè)內(nèi)專(zhuān)家強(qiáng)調(diào)，目前 HBM 市場(chǎng)以 HBM2e 為主。然而，HBM3 和 HBM3e 有望在不久的將來(lái)占據(jù)領(lǐng)先地位。

集邦咨詢(xún)預(yù)計(jì)，2023 年主流需求將從 HBM2e 轉(zhuǎn)向 HBM3，預(yù)計(jì)需求占比分別約為 50% 和 39%。隨著更多基于 HBM3 的加速器芯片進(jìn)入市場(chǎng)，需求將在 2024 年大幅轉(zhuǎn)向 HBM3，超過(guò) HBM2e，預(yù)計(jì)占據(jù) 60% 的市場(chǎng)份額。


多國(guó)積極拓展，產(chǎn)業(yè)界仍需冷靜

隨著HBM技術(shù)的價(jià)值被發(fā)掘，目前各主要芯片制程廠商均在積極布局。其中臺(tái)積電正大舉擴(kuò)充SolC系統(tǒng)整合單芯片產(chǎn)能，正向設(shè)備廠積極追單，預(yù)計(jì)今年底的月產(chǎn)能約1900片，明年將達(dá)到逾3000片，2027年有機(jī)會(huì)提升到7000片以上。值得注意的是，臺(tái)積電SolC是業(yè)界第一個(gè)高密度3D小芯片堆疊技術(shù)，公司擴(kuò)產(chǎn)此舉主要意在應(yīng)對(duì)AI等領(lǐng)域的旺盛需求。

此外據(jù)報(bào)道，SK海力士已開(kāi)始招聘邏輯芯片 (如CPU、GPU) 設(shè)計(jì)人員，計(jì)劃將HBM4通過(guò)3D堆疊直接集成在芯片上。SK海力士正與英偉達(dá)等多家半導(dǎo)體公司討論這一新集成方式。據(jù)SK海力士預(yù)測(cè)，HBM市場(chǎng)到2027年將出現(xiàn)82%的復(fù)合年增長(zhǎng)率。

截至2022年，HBM市場(chǎng)主要被全球前三大DRAM廠商占據(jù)，其中海力士HBM市占率為50%，三星的市占率約40%、美光的市占率約10%。

與此同時(shí)，國(guó)內(nèi)相關(guān)廠商則主要處于HBM上游設(shè)備和材料供應(yīng)環(huán)節(jié)。其中，華海誠(chéng)科2023年8月投資者關(guān)系活動(dòng)記錄顯示，公司的顆粒狀環(huán)氧塑封料(GMC)可以用于HBM的封裝，相關(guān)產(chǎn)品已通過(guò)客戶(hù)驗(yàn)證，現(xiàn)處于送樣階段。截至11月20日，公司股價(jià)11月以來(lái)已經(jīng)翻兩倍。

此外，聯(lián)瑞新材的部分客戶(hù)是全球知名的GMC供應(yīng)商，他們需要使用顆粒封裝材料來(lái)提升封裝高度和滿(mǎn)足散熱需求。據(jù)海力士公開(kāi)披露，球硅和球鋁是升級(jí)HBM的關(guān)鍵材料。而聯(lián)瑞新材也已開(kāi)始配套生產(chǎn)HBM所用的球硅和球鋁。

因此，雖然眼下HBM的市場(chǎng)基本被海外巨頭所占據(jù)。但隨著ChatGPT的AI大模型問(wèn)世，百度、阿里、科大訊飛、商湯、華為等科技巨頭紛紛要訓(xùn)練自己的AI大模型，AI服務(wù)器的需求大幅度激增。這也意味著，芯片儲(chǔ)存的自主可控仍是當(dāng)下產(chǎn)業(yè)發(fā)展的重要方向。所以在未來(lái)HBM國(guó)產(chǎn)化也將成為大的發(fā)展趨勢(shì)。

但值得注意的是，HBM 雖好但國(guó)內(nèi)產(chǎn)業(yè)界仍需冷靜對(duì)待。這是因?yàn)镠BM 現(xiàn)在依舊處于相對(duì)早期的階段，其未來(lái)還有很長(zhǎng)的一段路要走。但可預(yù)見(jiàn)的是，隨著人工智能產(chǎn)業(yè)的迅速發(fā)展以及相關(guān)技術(shù)的頻繁迭代，內(nèi)存產(chǎn)品設(shè)計(jì)的復(fù)雜性注定會(huì)快速上升，并對(duì)帶寬提出了更高的要求，進(jìn)而不斷上升的寬帶需求將持續(xù)驅(qū)動(dòng) HBM 發(fā)展。

而對(duì)于該產(chǎn)業(yè)在二級(jí)市場(chǎng)的發(fā)展，中銀國(guó)際方面則表示，伴隨AI大模型訓(xùn)練的不斷推進(jìn)，HBM作為關(guān)鍵性技術(shù)，其增長(zhǎng)確定性極高，相關(guān)投資機(jī)會(huì)有望集中在封裝設(shè)備材料及國(guó)產(chǎn)HBM配套供應(yīng)。