作者：中國信息通信研究院數(shù)據(jù)研究中心 張彥坤 中國信息通信研究院技術(shù)與標準研究所 陳敏
生成式人工智能和大模型技術(shù)的快速發(fā)展，拉開了全球大算力時代的序幕，科技巨頭紛紛重金布局AI算力基建，促使AI處理器需求呈“井噴”態(tài)勢。其中，HBM（高帶寬存儲器）作為核心器件，需求熱度持續(xù)上升。全球HBM市場目前已形成SK海力士、三星電子和美光三足鼎立的態(tài)勢。三大存儲原廠積極布局HBM技術(shù)研發(fā)，推動產(chǎn)能擴張計劃，在2024年陸續(xù)推出第五代HBM3E產(chǎn)品�？v觀HBM全產(chǎn)業(yè)鏈，我國本土企業(yè)參與者寥寥無幾。因此，我國HBM技術(shù)面臨自主可控與市場競爭雙重壓力，亟待加快步伐，奮起直追。
HBM市場概況
隨著人工智能尤其是生成式人工智能和大模型技術(shù)的快速發(fā)展，全球算力需求迎來爆發(fā)式增長。眾多云計算廠商、大模型廠商紛紛加大AI算力基礎(chǔ)設(shè)施建設(shè)的投資，因此AI處理器需求急速攀升，而作為其中關(guān)鍵器件之一的HBM需求也不斷增長。
HBM屬于圖形DDR（雙倍速率同步動態(tài)隨機存儲器）內(nèi)存的一種，具有高帶寬、高容量、低延時與低功耗等優(yōu)勢。它將多個DDR芯片堆疊在一起，再與GPU封裝合成，通過增加帶寬、擴展內(nèi)存容量組成DDR組合陣列，以實現(xiàn)“讓更大的模型、更多的參數(shù)留在離核心計算更近的地方”，從而減少內(nèi)存和存儲解決方案所帶來的延遲。在AI大模型訓練推理過程中，HBM可加快數(shù)據(jù)處理速度，因此更適用于ChatGPT等高性能計算場景。
從技術(shù)迭代上看，自2014年全球首款硅通孔HBM產(chǎn)品問世以來，已經(jīng)從HBM、HBM2、HBM2E，發(fā)展至第四代HBM3和第五代HBM3E。數(shù)據(jù)顯示，2023年HBM市場主流產(chǎn)品為HBM2E，NVIDIA A100/A800、AMD MI200以及多數(shù)CSPs自研加速芯片皆以此規(guī)格設(shè)計。為順應AI加速器芯片需求演進，存儲器廠商陸續(xù)在2024年推出新產(chǎn)品HBM3E，預計HBM3與HBM3E將成為今年市場主流產(chǎn)品。至于更高規(guī)格的HBM4，集邦咨詢預計其有望于2026年推出。
隨著AI等相關(guān)應用需求的激增，HBM市場規(guī)模也在大幅增長。據(jù)多家咨詢機構(gòu)預測，全球HBM市場將迎來快速發(fā)展期。數(shù)據(jù)顯示，全球HBM營收規(guī)模到2025年將達到49.76億美元，較2023年增長148.2%。預計從2024年到2029年，全球HBM市場規(guī)模將從25.2億美元左右激增至79.5億美元，預測期內(nèi)復合年增長率高達25.86%。未來，全球HBM內(nèi)存市場將繼續(xù)擴大，產(chǎn)能及市場份額也將持續(xù)提升。
三大存儲巨頭的競爭格局和技術(shù)路線
目前全球HBM市場高度集中，主要由SK海力士、三星電子和美光三家存儲大廠主導，2022年其在HBM市場的占有率分別為50%、約40%和約10%。數(shù)據(jù)顯示，2023年SK 海力士市場占有率達53%，而三星電子、美光市場占有率分別為38%及9%。
技術(shù)路線及業(yè)績表現(xiàn)
從存儲大廠HBM布局路線來看，SK海力士作為HBM技術(shù)的先行者，早在2014年就與AMD合作開發(fā)了全球首款HBM。隨后SK海力士又陸續(xù)成功研發(fā)出HBM迭代產(chǎn)品，分別在2016年、2019年、2021年以及2023年發(fā)布HBM2、HBM2E、HBM3和HBM3E產(chǎn)品。隨著以ChatGPT為代表的生成式AI的持續(xù)火爆，AI服務器出貨量的增長帶動HBM需求大漲。在HBM和DDR5的支撐下，SK海力士在2023年第四季度率先迎來盈利。SK海力士2024年第一季度財報顯示，DRAM業(yè)務收入占比61%，公司憑借HBM等面向AI的存儲器，營業(yè)利潤環(huán)比實現(xiàn)734%增長。SK海力士表示將繼續(xù)順應AI存儲器需求增長的趨勢，加大于HBM3E產(chǎn)品供應。
三星電子針對HBM技術(shù)的研發(fā)雖晚于SK海力士，但直接從HBM2起步，于2016年推出HBM2產(chǎn)品，2020年2月推出HBM2E產(chǎn)品，2021年2月推出了HBM-PIM（存算一體），實現(xiàn)了內(nèi)存半導體和AI處理器合二為一，其HBM3也于2023年量產(chǎn)。2024年2月底三星電子發(fā)布首款36GB HBM3E 12H DRAM，這是三星電子迄今為止容量最大的HBM產(chǎn)品。目前，三星電子已開始向用戶提供HBM3E 12H樣品，預計于今年下半年大規(guī)模量產(chǎn)。三星電子在今年一季報發(fā)布后還設(shè)定新目標，計劃年底實現(xiàn)HBM芯片產(chǎn)量3倍以上增長。
美光科技于2016年推出首款HBM2方案，隨后選擇跳過第四代HBM3，直接布局第五代HBM3E。2023年9月美光推出HBM3E，并于2024年2月26日宣布批量生產(chǎn)。隨著HBM3E產(chǎn)品開始量產(chǎn)并供貨于NVIDIA H200，美光有望在未來的GPU市場上取得更高占有率。財報顯示，美光2024財年第二財季（截至2月底）已實現(xiàn)DRAM營收42億美元，占總營收的71%。此外，美光2024財年資本支出預計在75億美元至80億美元間，高于去年資本支出和此前規(guī)劃，主要是為了支持HBM3E的產(chǎn)量增長。
產(chǎn)能擴張計劃
隨著NVIDIA、AMD等廠商不斷推出高性能GPU產(chǎn)品，三大存儲原廠也在積極規(guī)劃相對應規(guī)格的HBM量產(chǎn)。SK海力士公司今年4月正式宣布，為應對全球范圍內(nèi)快速增長的AI需求，公司計劃投資19萬億韓元（約1000億元人民幣），擴大包括HBM在內(nèi)的下一代DRAM的產(chǎn)能。SK海力士已通過董事會決議，將位于韓國忠清北道清州市的M15X晶圓廠定為新的DRAM生產(chǎn)基地。SK海力士將投資約5.3萬億韓元用于廠房建設(shè)，并于4月底啟動建設(shè)工程。
為擴大HBM產(chǎn)能，三星電子已于2023年底收購Samsung Display(三星顯示）韓國天安廠區(qū)內(nèi)部分建筑及設(shè)備，用于HBM生產(chǎn)。三星電子計劃在天安廠建立一條新封裝線，用于大規(guī)模生產(chǎn)HBM，該公司已花費105億韓元購買以上建筑和設(shè)備等，預計還將追加投資7000億～1萬億韓元。
美光科技已于2023年11月初正式啟用位于中國臺灣的臺中四廠。臺中四廠將整合先進探測與封裝測試功能，量產(chǎn)HBM3E及其他產(chǎn)品，從而滿足人工智能、數(shù)據(jù)中心、邊緣計算及云端各類應用日益增長的需求。該工廠已于2024年初開始大規(guī)模量產(chǎn)HBM3E。
下一步技術(shù)布局
圍繞搭載于NVIDIA下一代AI芯片中的HBM3E，三大存儲廠商展開了激烈競爭。美光、SK海力士和三星電子先后在2023年7月底、8月中旬以及10月初，向NVIDIA提供了8層垂直堆疊的HBM3E（24GB）樣品。其中美光和SK海力士的HBM3E在今年初已通過NVIDIA的驗證，并獲得了訂單；NVIDIA在3月中旬GTC大會上確認三星電子HBM 產(chǎn)品正處于驗證階段。
在角逐HBM3E的同時，三大存儲原廠已開始布局下一代存儲產(chǎn)品HBM4。SK海力士已宣布研發(fā)HBM4，并與臺積電就HBM4研發(fā)和下一代封裝技術(shù)合作簽署諒解備忘錄，計劃從2026年開始批量生產(chǎn)HBM第六代產(chǎn)HBM4。據(jù)悉，SK海力士將采用臺積電的先進邏輯工藝來提高HBM4的性能，針對搭載于HBM封裝內(nèi)最底層的基礎(chǔ)裸片進行優(yōu)化。三星電子自2024年以來已成立兩個全新HBM團隊，并將HBM工作小組轉(zhuǎn)為芯片部門下常設(shè)辦公單位。三星電子HBM團隊計劃于2025年推出HBM4，2026年實現(xiàn)量產(chǎn)。美光作為HBM市場后起之秀也在積極布局HBM4，計劃在2026年至2027年間，推出容量在36GB到48GB、12/16層垂直堆疊的HBM4產(chǎn)品，并于2028年推出帶寬增加至2TB/s以上的HBM4E。
我國廠商參與HBM產(chǎn)業(yè)鏈情況
在“算力”需求催生“存力”的機遇下，我國廠商國產(chǎn)AI處理器水平穩(wěn)步提升，對配套自主HBM供應鏈的需求也越發(fā)迫切�？v觀整個HBM產(chǎn)業(yè)鏈，研發(fā)、制造涉及復雜的工藝和技術(shù)難題，包括晶圓級封裝、測試技術(shù)、設(shè)計兼容性等，能入局的國內(nèi)企業(yè)屈指可數(shù)。
目前，我國長電科技、通富微電和盛合晶微等一線封裝廠商擁有支持HBM生產(chǎn)的技術(shù)（如TSV硅通孔）和設(shè)備。在其余供應鏈上，芯片設(shè)計企業(yè)國芯科技已與合作伙伴基于先進工藝開展流片，并與上下游合作廠家積極開展包括HBM技術(shù)在內(nèi)的高端芯片封裝合作。紫光國微的HBM作為特種集成電路產(chǎn)品，目前還處于研發(fā)階段。香農(nóng)芯創(chuàng)作為SK海力士分銷商之一具有HBM代理資質(zhì)，未來將根據(jù)下游用戶需求，在原廠供應有保障的前提下提供相應產(chǎn)品銷售服務。上游材料企業(yè)飛凱材料生產(chǎn)的MUF（環(huán)氧塑封料）是HBM存儲芯片制造技術(shù)所需材料之一，其中液體封裝材料LMC已經(jīng)量產(chǎn)并形成少量銷售，顆粒填充封裝料GMC尚處于研發(fā)送樣階段。興森科技的FC-BGA封裝基板可用于HBM存儲的封裝，但目前尚未進入海外HBM龍頭產(chǎn)業(yè)鏈。
由此可見，我國僅有為數(shù)不多的廠商打入全球HBM供應鏈體系，且主要集中在上游材料環(huán)節(jié)，HBM產(chǎn)業(yè)鏈仍被海外廠商主導。
我國HBM發(fā)展建議
AI大模型的興起催生了海量算力需求，未來在AI模型逐漸復雜化的趨勢下，服務器的數(shù)據(jù)計算和存儲需求將持續(xù)增長，算力的多寡也將成為制約一個國家AI發(fā)展的重要因素。國產(chǎn)AI算力當前面臨先進制程產(chǎn)能、CoWoS封裝與HBM三大瓶頸，HBM更是國產(chǎn)AI算力的重中之重。
當前HBM技術(shù)主要被美韓廠商把持，國產(chǎn)HBM正處于“0到1”的突破期。在我國高端GPU受限的情況下，無論從自主可控還是市場競爭角度，國產(chǎn)AI處理器的突破迫在眉睫，HBM的同步突圍更需加快布局。建議從國家層面加強頂層設(shè)計，加大關(guān)鍵技術(shù)研發(fā)力度，協(xié)同產(chǎn)業(yè)鏈上下游共同實現(xiàn)HBM等核心技術(shù)突破，以早日實現(xiàn)高性能AI處理器的國產(chǎn)化。
