經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

生成式AI帶動HBM爆紅 三星美光賺飽飽 為何台廠吃不到

過去HBM因為成本過高較少被採用,但此波AI浪潮,大語言模型(LLM)崛起,意味著更多的數據需要被儲存和傳輸,傳統的DRAM記憶體難以滿足AI晶片需求,HBM找到了最佳位置,也吸引GPU大廠的注目。 路透
過去HBM因為成本過高較少被採用,但此波AI浪潮,大語言模型(LLM)崛起,意味著更多的數據需要被儲存和傳輸,傳統的DRAM記憶體難以滿足AI晶片需求,HBM找到了最佳位置,也吸引GPU大廠的注目。 路透

本文共1517字

經濟日報 記者何佩儒/台北報導

經濟VIP文章限時開放

AI浪潮來襲,除了GPU搶手,先進封裝CoWoS供不應求,還有高頻寬記憶體( HBM)也成了當紅炸子雞。美光執行長Mehrotra日前霸氣表示,「美光今年HBM產能已銷售一空、2025年絕大多數產能也已被預訂。」

雖然HBM占整體記憶體的比重還不高,研究機構紛紛將HBM獨立進行分析,SK海力士、三星展開擴產,美光急起直追,相關概念股力成(6239)、至上也備受關注。

HBM為何爆紅?台系記憶體業者為何沒有進入賽道?

生成式AI爆紅 帶動HBM需求

HBM是超微(AMD)與SK海力士等夥伴合作開發,SK海力士在2015年量產第一代HBM(HBM1),之後三星、美光也投入開發。記憶體在晶片運算過程中的主要作用,是暫存運算過程中的中間值或參數。

HBM主要結構是由多層DRAM記憶體小晶片形成的高容量記憶體垂直堆疊,運用垂直堆疊的短距離,確保層與層間的訊號傳輸快速且耗能低,提升運算效能。

聽起來好像很簡單,但每一代HBM的開發不僅困難又燒錢,良率又低。過去HBM因為成本過高較少被採用,但此波AI浪潮,大語言模型(LLM)崛起,意味著更多的數據需要被儲存和傳輸,傳統的DRAM記憶體難以滿足AI晶片需求,HBM找到了最佳位置,也吸引GPU大廠的注目。

HBM本身主要結構採用3D堆疊的先進封裝製作,搭配GPU這類高運算效能晶片,再以CoWoS先進封裝與GPU運算核心整合,形成完整的GPU晶片。若不是GPU採用7奈米以下先進製程的高單價產品,要以先進封裝整合HBM的晶片,生產成本相當高昂。

而用於HPC或AI運算的高階GPU晶片,如之前市場瘋搶的輝達的H100,甫發表的新一代H200,與超微的MI300,等,就是以GPU運算核心搭配可快速大量存取傳輸資料的 HBM。

深度內容中心/製作
深度內容中心/製作

那些台廠受惠

資策會MIC產業顧問鄭凱安表示,由於容量高、資料存取快速,HBM市場持續成長,除了透過CoWoS封裝將HBM與先進製程運算晶片結合,也有業者發展客製化DRAM與成熟製程Edge AI晶片堆疊的技術,可用於較低成本的AI解決方案。

因應日漸增加的AI應用,記憶體以小晶片或HBM等不同的樣態,可透過先進封裝技術與運算晶片形成單一晶片封裝,支持不同類型的運算需求,也促成國內半導體產業鏈跨領域多元整合的生態體系發展。

法人認為,搭上HBM或成本較低的解決方案熱潮,包括力成、創意(3443)、至上、華邦電、愛普、鈺創、志聖等台廠,有望成為市場新星。

HBM仍是SK海力士、三星及美光三大廠的天下,其中以SK海力士全球市占率達五成,...
HBM仍是SK海力士、三星及美光三大廠的天下,其中以SK海力士全球市占率達五成,遙遙領先其他大廠。 路透

三家大廠吃飽飽 台廠難超車

根據外電報導,輝達(NVIDIA)執行長黃仁勳指出,HBM記憶體非常複雜,而且附加價值非常高,輝達將在HBM投入大量資金。因此除了原來的SK海力士,輝達也正針對三星HBM晶片進行認證測試。

HBM售價高昂、獲利高,SK海力士、三星、美光持續擴產,根據TrendForce資深研究副總吳雅婷預估,2024全年HBM供給位元年增率將高達260%,去年HBM產值占整體DRAM產業的比重約8.4%,到今年底將擴大至20.1%。由於HBM生產周期較長,從投片到產出與封裝完成,需要兩季以上,要拿到充足供貨的買家都會早早付訂金鎖定訂單量,也讓市場更為緊俏。

雖然美光急起直追,不過,鄭凱安認為,目前SK海力士與三星的市占率大約在四到五成之間,美光約10%不到,儘管HBM是技術導向,誰在技術上優先突破,幾乎可以贏者全拿;但目前三大廠的實力相當,預估短期內市占率不會有明顯變化。

而台廠早期雖有業者曾投入開發,但未能延續,如今已是後進者,加上訂單都被三大廠鎖定,已無競爭優勢。

也就是在大者恆大的記憶體市場,HBM因為此際生成式AI盛會正嗨,三大記憶體廠商搶奪未來AI商機的戰況也將更加激烈。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
巨大子公司鼎鎂新材料科技 取得新加坡子公司股權
下一篇
蘋果衝 AI 高層密訪台積電 預期將包下2奈米首批產能

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!