隨著AI運算需求大幅提升,內存短缺問題已成為業界關注的核心挑戰之一。摩根士丹利最新報告指出,半導體記憶體產業鏈正積極尋求透過降低內存規格、分離推理負載以及採用Compute Express Link(CXL)技術實現內存池化與共享,以面對持續的內存瓶頸與資源壓力。
英偉達CEO黃仁勳近期明確表態,業界須以全新思維應對內存瓶頸,這是對未來數年間持續短缺現象的主動預判。即使短缺強度或有起伏,AI工作負載的爆發性增長基本將吸收絕大部分記憶體供應。
在投資層面,摩根士丹利將Astera Labs(股票代號:ALAB)及Marvell(股票代號:MRVL)列為受益於CXL及規格擴展趨勢的重要標的,並將Cerebras(股票代號:CBRS)定位為推理負載分離架構的核心受益者,同時看好Micron(股票代號:MU)和SanDisk(股票代號:SNDK)在內存短缺背景下的穩健評級,反映內存供應短缺週期尚未結束。
降低規格:調壓而非消除內存瓶頸
面對DRAM與NAND價格雙雙上揚的環境,生態鏈企業多著手於降低單設備內存配置以緩解供應承壓。以英偉達Rubin平台為例,其LPDDR5架構規格從初期54TB壓縮至28TB,HBM記憶體容量也計劃從288GB推升至192GB版本,體現規格靈活調整以對應內存供需情況。然而,內存降規並非根本解決方案,數據壓力將不可避免轉移至NAND及網路互聯帶來的新增需求,形成內存瓶頸的位移而非消失。
業界強調,推動AI內存需求持續擴張的結構性因素包括(1)大型語言模型(LLM)每6個月容量近翻倍增長;(2)上下文窗口長度每年擴增五倍的急速演進;(3)推理負載中每場會話需獨立KV緩存,三者綜合驅動內存需求的非線性增長。
負載分離:架構專屬硬件促進效能提升
AI推理推動計算負載由繁轉簡,使負載分離成為實現專屬硬件配置的關鍵。該過程分為兩大階段:預填充(prefill)階段負責處理輸入提示語及計算密集型任務,解碼(decode)階段則側重於逐token生成輸出。此二者分離策略允許各自依賴最適合的硬件平台以優化處理效率,是提昇內存使用效能的次級發展路徑,預計2025年底前此趨勢加速。
摩根士丹利指出,Astera Labs專注於高速連接與CXL記憶體共享晶片方案,Marvell則於CXL設計中佔據核心位置,兩者皆被視為重要投資受惠者。Cerebras產品則以晶圓級記憶體整合與分離計算架構呈現,並與AMD合作進一步擴展生態。AWS與Amazon Bedrock等大客戶計劃2027年起採用Cerebras架構,預計為產業帶來階段性革命。
CXL開創內存共享新場景
CXL(Compute Express Link)是基於PCIe技術的高速協議,允許多處理器共享同一內存池,打破傳統內存依附特定CPU的限制。其三大應用場景分別是:內存擴充(為單處理器提供更多本地內存容量)、內存共享(多處理器共享同一內存資源)、以及內存池化(跨伺服器動態分配內存),解決內存閒置率和浪費問題。
摩根士丹利指出,過去CXL主要聚焦CPU計算市場,AI領域因延遲敏感性而受限,但隨著推理負載及KV緩存需求激增,CXL對長短時上下文記憶體容量的靈活支持成為必要。內存分層架構與CXL的普及可望使內存成為低成本、高容量的可擴展資源,推動AI服務器市場快速成長。
市場規模方面,摩根士丹利預測2024年至2030年間,CXL相關市場規模將由40億美元激增至超過60億美元,主力來自AI服務器新部署。
對內存股的展望:周期波動而非崩潰
摩根士丹利分析暗示,短期內內存價格對於DRAM廠商具一定負面影響,因降規將使部分內存容量被快速消化轉移至其他領域,但完全停擺可能性低。內存供應鏈基於供需調整將出現周期性波動,且AI生態系統內的內存短缺尚未結束,相關廠商因而維持穩健評級。
此外,一個潛在風險是若AI內存需求放緩非由需求端減少,而是基礎設施如土地、電力與廠房等資源限制導致,屆時對內存晶片產能的影響會更為深遠且複雜。但目前市場尚未出現此類明顯瓶頸。
參考資料:摩根士丹利2024年AI硬體報告、英偉達最新季度財報、Astera Labs與Marvell官方公告、全球內存晶片市場分析報告、CXL技術白皮書、公開財經新聞報導。
市場重要性與影響評估: 高影響
影響範圍: 全球
影響時長: 中長期(3-12個月至12個月以上)
市場敏感度: 事件部分已被市場認知,但CXL技術在AI內存擴展應用的潛力仍有待進一步被充分評估與反映潛在市場影響:
- 隨著AI運算需求大幅提升,內存瓶頸問題成為產業關注核心,CXL(Compute Express Link)技術的推廣可望打破傳統CPU限制,實現多處理器共享內存池,提升系統擴展性與效率。
- 主要半導體及AI硬體企業如Astera Labs、Marvell及Cerebras等,正積極布局CXL相關產品與解決方案,預計將成為推動AI伺服器內存架構革新的關鍵力量,帶動相關供應鏈增長。
- CXL技術的普及有助於降低AI伺服器內存成本,提高資源利用率,推動AI服務器市場快速成長,預測2024至2030年間CXL市場規模將從約40億美元增長至超過60億美元,並持續擴大。
- 內存規格調整(如DRAM及NAND降規)為短期供需調整手段,並非根本解決方案,CXL技術則提供結構性解決方案,緩解內存瓶頸並支持AI推理等高負載場景的持續增長。
- AI推理工作負載對KV Cache等內存需求的急速擴張,使得內存分層與負載分離的硬體架構成為必然趨勢,CXL的分層架構與負載分離策略將提升整體系統性能與可擴展性。
風險:
- 內存價格短期波動及降規措施可能導致部分DRAM廠商短期業績受壓,市場波動風險存在。
- CXL技術仍處於推廣初期,生態系統兼容性、標準統一及大規模商用落地仍需時間,技術成熟度與市場接受度存在不確定性。
- 基礎設施限制(如電力、廠房等)可能成為內存晶片產能及效率提升的瓶頸,限制整體產業供給擴張。
- AI內存需求若因技術創新或替代方案出現而改變,可能影響CXL及相關硬體需求的長期預期。
其他觀點:
- 部分業界觀點認為CXL與其他記憶體互聯技術(如Infinity Fabric)將共存發展,未來可能形成多元技術並行的生態,進一步推動記憶體技術創新。
- 專家強調,CXL的真正價值在於其對AI推理場景中動態內存擴展的支持,未來隨著AI模型規模與複雜度提升,該技術的重要性將更加凸顯。
- 從投資角度看,相關企業如Astera Labs、Marvell及Cerebras因具備技術先發優勢及客戶驗證案例,短中期內有望受益於市場擴張。
備註:
- 本分析僅供參考,不構成投資建議。

