經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

元富鄭文賢 挑AI伺服器

元富投顧總經理鄭文賢(本報系資料庫)
元富投顧總經理鄭文賢(本報系資料庫)

本文共1178字

經濟日報 記者 楊淨淳

元富投顧總經理鄭文賢表示,輝達在日前的Computex中,除了推出A100、H100的下一代晶片GH200外,意外端出MGX設計平台,幫助ODM廠加快實現AI伺服器的出貨量增,對加速AI的遍地開花,具有關鍵性的意義。

目前輝達在AI市場的拓展上,主要有三種方式,銷售DGX系列的整機伺服器、銷售HGX系列的次系統模組及自建AI雲。DGX因為是完整系統,單價最高,但主要銷售對象,為企業端或是資金較為雄厚的獨角獸企業,輝達藉由提供整套的AI伺服器系統,讓沒有自行設計伺服器及開發韌體的公司,能快速自建AI算力,然後將企業研發重心,放在商品化AI獨門應用,以變現市場商機。

以緯創(3231)的供應模式舉例,緯創同時代工輝達DGX及HGX,DGX出貨對象為輝達,輝達再以自有品牌的AI伺服器進行銷售,HGX則交由緯穎,由緯穎替CSP代工生產整機伺服器。

至於輝達自建雲,則是透過CoreWeave這類的CSP公司,對無法負擔DGX的小型客戶,直接提供AI算力,以AI為突破口,與傳統的CSP大廠爭食雲端服務大餅。

而此次輝達所發布的MGX平台,是一種模組化的參考設計,可以將AI伺服器開發成本降低至1/4,縮短開發時間至原本的1/3,此舉將有效提升CSP廠的投資報酬率,目前台灣各主要伺服器ODM廠均已利用MGX平台,與客戶進行合作開發,進度較為領先的雲達,預期第3季起,即可量產MGX平台設計的產品,並往上拉動AI伺服器零組件廠出貨量增。

AI伺服器耗電龐大,對電源供應器瓦數要求連帶大幅提升,以目前主流的Intel Whitley平台,及滲透率正在提升的Eagle Stream平台為例,每台伺服器的電源供應器,所需瓦數分別為1,200瓦及1,600瓦,而輝達AI伺服器所需瓦數,目前已高達6,000瓦,依據規格最高可達1萬瓦或以上,以一般伺服器單價約6,000美元計算,電源供應器占成本4%,約240美元,若以高階AI伺服器一台18萬美元計算,電源成本占3.8%,則高達6,840美元。

未來隨著AI伺服器的效能持續升級,對更高瓦數的電源供應器(單顆6000瓦)的需求相當明確,同理,散熱系統規格也必須持續升級,目前H100晶片雖然仍可使用3D VC搭配風扇進行解熱,但若想將PUE降到1.3以下,則必須往液冷,包括水冷板散熱或浸沒式散熱發展。

水冷板系統主要利用水將伺服器所產生的熱帶走,熱水經由冷卻液分配單元(CDU)被帶至外部的風扇冷卻系統進行降溫後,再回流板內,因建置成本低於浸沒式,且運作過程更偏向傳統散熱,目前廠商興趣最高。

投資錦囊

輝達AI對全球不僅帶動龐大的商機,也帶動資金快速移往相關概念股,卻也引發市場討論「AI泡沫」。市場觀點多數認為,AI是長期發展趨勢,亦是投資重點,加上實體成績可見,泡沬不易,不過相關個股股價漲多亦為事實,追價宜留意漲高風險。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

上一篇
立足台灣近26年 瑞信台北證券分公司5/31退場
下一篇
台積電開盤大漲22元 拉抬台股早盤勁揚逾300點

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!