AI伺服器架構大洗牌!Arm超越x86攜手NVIDIA主導代理式AI安全防禦

根據國際數據資訊(IDC)統計,基於 Arm 架構的機櫃級伺服器市占率已正式超越傳統 x86 架構,躍升為加速運算與人工智慧(AI)伺服器領域的主流平台。為因應具備自主執行能力的代理式 AI(AI Agent)快速發展所帶來的防禦挑戰,Arm 宣佈與輝達(NVIDIA)整合技術,打造全新的系統級資安防護架構。

Arm 架構全面攻佔 AI 伺服器,各大雲端巨頭與 NVIDIA 相繼導入

隨著 AI 技術由單純的生成回答,演化為能夠持續運作、自主調用工具、存取系統資料並採取行動的代理式 AI,系統運算需求呈現爆發性成長。中央處理器(CPU)在處理 AI 代理的框架編排、託管執行及工具呼叫時扮演核心角色,這促使各大科技巨頭紛紛投入自研 Arm 晶片的陣營。

目前市場上的主要超大規模雲端服務提供者均已部署 Arm 運算平台,包含亞馬遜的 Amazon Graviton、Google 的 Axion、微軟的 Microsoft Cobalt,以及 NVIDIA 自研的 Vera 與 Grace 系列處理器。這些軟硬體環境雖然架構設計各異,但皆相容於 Arm 生態系。NVIDIA 所推動的開放式 AI 代理安全平台(Open Agent Safety Platform),透過 OpenShell 機制為此類多元 CPU 生態建構一致的安全邊界,管控 AI 代理能存取的各項硬體資源與權限。

CPU 負責執行、DPU 獨立防禦:NVIDIA 平台打造多層安全防線

在新型態的 AI 伺服器架構中,單靠執行工作負載的主機 CPU 已不足以提供完全隔離的資安防護。為避免 AI 代理在運作過程中出現未授權或異常行為,必須在執行環境之外建立獨立的觀察與管控層。

這項任務交由基於 Arm 架構的基礎設施處理器,即資料處理單元(DPU)來完成。以 NVIDIA BlueField-4 為例,該處理器搭載了 64 個 Arm Neoverse V2 核心,能將網路、資安及監控政策從主機 CPU 中完全抽離,成立獨立運作的信任區塊。搭配 NVIDIA Sentry 技術,系統可對 AI 代理的行為進行即時監測;一旦偵測到不安全的連線或違規行為,DPU 能夠即刻予以隔離,達成運算效能與防護機制同步擴充的目標。

這代表什麼

這項架構演進對於整體科技產業與企業用戶帶來三個關鍵層面的影響:

  • 資料中心算力結構徹底翻轉:過去由 x86 架構主導多年的伺服器市場正迎來根本性變化。面對 AI 運算龐大的耗電與散熱壓力,Arm 架構憑藉高能效比的優勢,正式成為 AI 伺服器市場的新標準。
  • 企業部署 AI 代理的資安門檻大幅降低:當 AI 獲授權存取企業核心資料並執行系統操作時,資安風險成倍增加。透過晶片層級的軟硬體隔離防護,企業未來部署代理式 AI 時無需在「防禦安全」與「系統效能」之間做出妥協。
  • 台灣伺服器供應鏈面臨規格轉型:台灣作為全球伺服器代工重鎮,伺服器製造商與零組件業者需迅速調整產品研發方向,以因應 Arm CPU 與 DPU 整合機櫃的強勁需求。

背景補充

為了幫助讀者更清楚理解本次技術轉型,以下整理三個相關關鍵概念:

  • x86 與 Arm 架構:x86 為傳統個人電腦與伺服器普遍採用的複雜指令集架構,由 Intel 與 AMD 主導;Arm 則為精簡指令集架構,原本廣泛應用於智慧型手機與行動裝置,近年憑藉極佳的能效表現,快速席捲資料中心市場。
  • 代理式 AI(AI Agent):相較於第一代僅能根據提示詞生成文字或圖片的生成式 AI,代理式 AI 具備長期運作與規劃能力,可自動分解複雜任務、連線外部數據庫並操作軟體工具來完成指派目標。
  • 資料處理單元(DPU):一種專門用於資料中心基礎設施運算的晶片,負責分擔 CPU 的網路傳輸、資料儲存加密與安全過濾等工作,進而解放 CPU 資源,專注處理主要應用程式。

常見問題

Arm 架構為何能在 AI 伺服器領域超越傳統 x86 架構?

Arm 架構具備高能效比與可高度客製化的優勢,能大幅降低 AI 資料中心的營運與散熱成本,因而獲得各大雲端服務提供者全面採用。

什麼是代理式 AI(AI Agent),它對伺服器算力有何新需求?

代理式 AI 能自主運算、呼叫工具並採取行動,這需要 CPU 持續處理大量的調度與執行邏輯,並需要獨立晶片提供持續的資安監控與隔離防衛。

NVIDIA 與 Arm 的合作如何強化 AI 伺服器的安全性?

由 Arm CPU 負責運行 AI 工作負載,並搭配基於 Arm 架構的 NVIDIA DPU(如 BlueField)進行硬體層級的隔離與即時監控,防止異常行為影響主系統。