輝達新架構開出新需求 企業級固態硬碟躍升 AI 伺服器新標配

隨著輝達(NVIDIA)下一代人工智慧(AI)架構 Vera Rubin 將固態硬碟(SSD)納入系統設計規格,記憶體供應鏈正面臨新一波的需求榮景。控制晶片大廠群聯指出,由於 AI 運算帶動的快取與資料檢索需求驟增,記憶體拉貨與囤貨動能目前仍看不到盡頭。

AI 算力瓶頸轉移 企業級 SSD 躍升系統標配

在 AI 模型逐步從訓練階段轉向推論階段後,大型語言模型(LLM)與代理 AI(Agent AI)運作時需要處理龐大的即時資料快取與檢索任務。由於動態隨機存取記憶體(DRAM)價格極為高昂,且單一伺服器能安裝的 DRAM 容量存在實體限制,極度依賴 DRAM 的架構面臨嚴峻考驗。

為了緩減記憶體不足與成本過高的問題,雲端服務業者與伺服器大廠開始採用大容量、高速的企業級固態硬碟(Enterprise SSD),負責承接部分原本存放在 DRAM 中的關鍵快取資料(例如 KV cache)。研調機構數據亦顯示,北美雲端巨頭近期持續調升企業級 SSD 訂單,促使快閃記憶體(NAND Flash)製造商將更多產能轉移至高毛利產品。

輝達 Vera Rubin 導入新規格 儲存晶片廠接單熱絡

引發這波記憶體新需求的關鍵之一,在於輝達下一世代 AI 運算平台 Vera Rubin 決定將固態硬碟直接整合進整體架構中。業界指出,這是過去 AI 伺服器設計中少見的突破,代表儲存設備已從過往單純的資料備份角色,進階成為核心運算架構的一部分。

儲存控制晶片廠群聯高層透露,近期全球客戶尋求合作與鎖定產能的動作相當積極。由於 AI 系統運算需求的成長速度遠超出過往個人電腦與智慧型手機的循環週期,客戶為防範料源短缺,紛紛提前簽訂長期合作協議,使得記憶體市場出現罕見的持續拉貨現象。

這代表什麼

對台灣伺服器與半導體供應鏈而言,AI 運算對儲存裝置的需求變革帶來了全新的高單價市場。過往台灣控制晶片與記憶體模組廠多半依賴消費性電子產品,容易受到景氣循環劇烈波動影響;如今 AI 伺服器將企業級固態硬碟拉升為標準配備,有助於相關業者大幅提升高毛利產品的營收比重。

對一般使用者與中小企業來說,這意味著高階記憶體產能將優先被雲端資料中心與 AI 伺服器排擠。隨著供應商將更多晶圓產能排給企業級產品,未來消費級 SSD 與記憶體模組的價格可能獲得支撐甚至面臨漲價壓力。企業在進行資訊硬體採購時,需要提前規劃預算以應對儲存設備成本上升的趨勢。

背景補充

在傳統電腦與伺服器架構中,記憶體主要分為 DRAM 與 NAND Flash 兩大類。DRAM 具備極高的讀寫速度,但斷電後資料會消失,且單位成本昂貴;NAND Flash 則為非揮發性記憶體,用於製作固態硬碟,雖然速度略遜於 DRAM,但容量大且成本相對親民。

隨著 AI 模型越發龐大,運算過程中需要暫存大量中間資料(如對話上下文快取)。傳統僅依賴 DRAM 的方式陷入成本與功耗瓶頸,進而催生了利用高速 PCIe 介面的企業級 SSD 來輔助 DRAM 的新型態架構。而輝達作為全球 AI 晶片龍頭,其發布的 Vera Rubin 架構代表了未來數年的 AI 硬體標準,該架構正式採納 SSD 作為關鍵配置,進一步確立了企業級儲存技術在 AI 時代的策略地位。

常見問題

為什麼 AI 伺服器開始大量需要固態硬碟(SSD)?

因為 AI 模型推論與代理 AI 產生龐大的即時資料快取需求,而 DRAM 價格昂貴且容量有限,採用高速企業級 SSD 可以有效補足記憶體缺口並降低整體成本。

輝達 Vera Rubin 平台對記憶體產業帶來什麼影響?

Vera Rubin 架構首度將固態硬碟納入系統設計規格,帶動雲端業者大幅追加企業級 SSD 訂單,促使記憶體製造商將更多產能轉向高毛利產品。

這波 AI 記憶體需求會影響到一般消費者的硬體價格嗎?

由於記憶體原廠將更多晶圓產能排給高毛利的 AI 伺服器與企業級 SSD,市場供應傾斜可能導致消費級 SSD 及記憶體價格受到支撐或面臨漲價。