代工大廠和碩於超級電腦大會(SC26)發表最新人工智慧(AI)與高效能運算(HPC)基礎架構解決方案,強調針對能自主執行任務的「代理型 AI(Agentic AI)」打造專屬硬體平台。和碩預期隨著產品組合擴充與大型雲端服務供應商(CSP)效益顯現,伺服器業務營收將在未來迎來顯著的倍數成長。
因應代理型 AI 運算特性 和碩力推高密度 CPU 與液冷系統
隨著 AI 應用從傳統的對話生成,邁向可自主規劃與執行複雜任務的代理型 AI,資料中心的硬體架構也隨之改變。由於代理型 AI 需要 simultaneous 處理多個代理運算、工具調用、強化學習評估以及沙箱(Sandbox)環境執行,使得中央處理器(CPU)資源的需求大增,必須與圖形處理器(GPU)系統緊密協同運作。
針對這項趨勢,和碩展出採用 NVIDIA MGX 模組化架構的 Vera CPU 機架,單一機架整合 256 顆液冷式 Vera CPU,可提供超過 2.25 萬個運算核心與 4.5 萬個執行緒,並具備高達 300 TB/s 的 LPDDR5X 記憶體總頻寬,能同時支援 2.25 萬個沙箱環境。在 GPU 加速運算方面,和碩推出搭載 NVIDIA Vera Rubin NVL72 全液冷機架架構,結合 72 顆 Rubin GPU 與 36 顆 Vera CPU,搶攻前沿 AI 模型訓練與推論需求。
除了 NVIDIA 陣營,和碩亦擴展採用 AMD EPYC 9006 系列處理器的高密度運算平台,包含支援 48V 直流供電與多項開放標準的 2OU 雙節點伺服器。在儲存設備上,則推出最高可搭 32 顆 E3.S NVMe 固態硬碟(SSD)的系統,以滿足高吞吐量的資料處理情境。
鎖定客製化晶片與 CSP 客戶 伺服器營收目標翻倍擴增
和碩總經理暨共同執行長鄭光志指出,GPU 仍是加速運算的核心,但在代理型 AI 的運作中,CPU 在資料處理與複雜任務執行上扮演更關鍵的角色。和碩將發揮軟硬體系統整合與機架級部署能力,提供客戶從單一節點至整體叢集的完整解決方案。
在營運展望方面,今年被視為和碩的伺服器出貨元年,全年伺服器營收占整體合併營收一成的目標可望順利達標,整體資訊產品營收較去年翻倍。隨第四季運算與儲存產品持續成長,和碩在特殊應用積體電路(ASIC)領域已掌握 4 至 5 家客戶,預計明年進入量產出貨階段,配合 CSP 大廠業務的推進,看好 2027 年伺服器營收將實現數倍成長。
這代表什麼
代理型 AI 的興起代表 AI 運算正從單純的「問答模式」轉變為「自動化工作流程」。這意味著伺服器廠商不能再單靠堆疊 GPU 來滿足市場需求。多代理協同架構需要大量的邏輯判斷與程式碼沙箱運作,促使高密度 CPU 與高記憶體頻寬成為解決運算瓶頸的新關鍵。
對台灣伺服器供應鏈而言,和碩的大舉布局證明了台廠正快速從傳統伺服器組裝,轉型為具備高階液冷散熱系統、CPU-GPU 模組化機架設計與客製化 ASIC 整合能力的系統服務商。對於想引進代理型 AI 的企業來說,硬體設備的升級將顯著降低自動化工作流的延遲,提升運作效率。
背景補充
代理型 AI 指的是具備自主決策與執行能力的 AI 系統,不同於傳統大型語言模型(LLM)僅依據提示字給予文字回覆,代理型 AI 能將複雜目標拆解為多個步驟,自主呼叫外部 API 工具、撰寫並測試程式碼,甚至透過強化學習進行自我自我修正。
和碩過去以消費性電子產品組裝與 iPhone 代工為主力,近年為了優化毛利率與產品組合,積極跨入伺服器與資料中心硬體市場。相較於較早切入 AI 伺服器領域的同業,和碩透過強打最新液冷架構、MGX 模組化設計以及爭取雲端服務供應商與 ASIC 自研晶片訂單,作為後發先至的核心戰術。
常見問題
為什麼代理型 AI 需要更多的 CPU 運算資源?
代理型 AI 需要自主執行程式碼沙箱、工具呼叫、多代理協同與強化學習評估,這些邏輯處理解析非常依賴高密度 CPU 與記憶體頻寬。
和碩最新發表的 AI 伺服器規格有哪些亮點?
包含整合 256 顆液冷 Vera CPU 的高密度機架、結合 72 顆 Rubin GPU 的全液冷系統,以及支援 32 顆 NVMe SSD 的高吞吐量儲存平台。
和碩對於未來伺服器業務的營收目標為何?
今年伺服器營收占比預計達一成,並已佈局 4 至 5 家客製化晶片客戶,看好明年大量出貨後營收將迎來數倍成長。