
AI伺服器推升HBM與高容量DRAM需求,國際記憶體廠雖加速擴產,但產能仍落後需求。南亞科受惠DRAM報價大幅上升;華邦電則憑藉利基型承接商機。
【文/呂泰德】
大型語言模型正由集中訓練走向大規模推論,資料中心擴充的已不只是GPU或其他AI加速器,而是涵蓋HBM、伺服器DDR5、低功耗記憶體與企業級SSD的完整記憶體及儲存架構。貼近運算核心的HBM負責高速傳送模型資料,DDR5與SOCAMM等低功耗記憶體支撐CPU端的系統運作、資料前處理,企業級SSD則承接模型權重、資料集、向量資料庫與持久化KV Cache等容量需求。美光於近期指出,單台伺服器的記憶體容量在過去三年間增加一倍,隨著AI推論複雜度,系統效能愈來愈受到記憶體頻寬與容量影響,不再僅由運算晶片效能決定。
AI效應拉長供給缺口
三星電子於2026年二月宣布HBM4進入量產並展開商業出貨,採用第六代10奈米級1c DRAM及四奈米邏輯基礎裸晶,五月再向主要客戶提供12層HBM4E樣品;美光則推進針對Nvidia Vera Rubin平台設計的36GB、12層HBM4,單一堆疊頻寬超過每秒2.8TB,並同步布局SOCAMM2及PCIe Gen6資料中心SSD。三星、SK海力士與美光在HBM4世代的競爭,已由過去著重單顆DRAM成本,升級為先進製程、堆疊技術、邏輯基礎裸晶、封裝、功耗、散熱與客戶認證能力的全面競賽。
更重要的是,HBM、高容量伺服器DDR5及低功耗伺服器記憶體,均會競逐先進DRAM晶圓、EUV設備、研發人力、測試與後段封裝資源。當記憶體大廠優先將先進DRAM產能配置於HBM及高容量伺服器產品時,不僅高階記憶體供應維持緊張,也可能限制部分標準型或成熟規格DRAM的供給增幅。企業級SSD雖然主要使用NAND Flash,並不直接占用相同的DRAM晶圓,但同樣會競逐資本支出、先進控制器、研發及資料中心客戶資源。美光26年第三季營收達414.6億美元,高於前一季的238.6億美元,並預估下一季非GAAP毛利率約86%,反映AI需求、供給受限與高附加價值產品組合正大幅提高記憶體的獲利能力。
AI伺服器除了加速器,仍須仰賴CPU負責作業系統、資料前處理、網路與儲存管理、服務調度及部分推論流程,因此系統DRAM容量也隨之提高。美光已向伺服器生態系提供256GB DDR5 RDIMM樣品,最高速度可達9,200MT/s,採用3DS堆疊與TSV技術整合多顆DRAM晶粒;單一256GB模組相較二條128GB模組,可降低超過40%的運行功耗。這顯示即使伺服器出貨台數未成倍成長,每台設備搭載的記憶體容量、頻寬與單位價值仍可持續提高,記憶體位元需求因而不再只由終端設備台數決定。
另一方面,大型模型在訓練階段需要讀取龐大資料集,進入推論後仍須存放模型權重、向量資料庫、檢索資料及持久化KV Cache,資料中心不可能將所有資料長期放在成本較高的HBM或DRAM中,因此必須依靠企業級SSD承接大容量儲存。美光9650為商用PCIe Gen6資料中心SSD,循序讀取效能最高可達PCIe Gen5產品的近二倍;另一款6600ION則將SSD容量提高至245TB。兩項產品分別強化效能與容量,顯示AI資料管線的升級已從GPU與記憶體,進一步延伸至企業級儲存設備。
報價勁揚獲利增漲
記憶體產業具有固定成本高、價格循環明顯的特性。當產能利用率已處高檔、位元出貨量變化有限時,平均銷售價格上升,會增加毛利與獲利。南亞科26年第二季營收達825.49億元,較第一季增加68.2%;DRAM平均銷售價格季增超過60%,位元出貨量則與前一季大致持平。在價格上漲與產品組合改善帶動下,毛利率由第一季的67.9%提高至79.5%。換言之,南亞科第二季獲利跳升的主要動能是供給受限、報價上漲與高附加價值產品比重提高,創造出更高營收與利潤。(全文未完)
全文及圖表請見《先探投資週刊2414期精彩當期內文轉載》
◎封面故事:先進封測外溢的大時代
◎特別企劃:特化&耗材 擁高毛利護城河
◎國際趨勢:標普指數成分股獲利率創新猷
◎中港直擊:世界工廠大小通吃不留情
【最新活動看板】
◎【先探講堂】莊爸飆股學習營-看懂洗盤暗號,精準抓住起漲點!
◎【先探講堂】先探×蔡明翰-台股產業投資專修班
◎加入先探i投資YouTube頻道會員!搶先觀看最新投資速報
◎先探﹝紙本雜誌有效訂戶﹞專屬影音服務!掌握最新投資訊息
◎下載財訊快報APP,每日重要財經訊息不漏接
◎生技女王投資勝經臉書粉絲團歡迎按讚追蹤
◎先探一年52期送「AWANA花語陶瓷手提咖啡杯 500ml藍色」乙個
◎先探一季13期送《中年財富覺醒》乙本




