晶片巨頭輝達(NVIDIA)宣布將在五年內提供價值 2.5 億美元的運算資源,支持英國推動代理型人工智慧(Agentic AI)安全與資訊安全研究。執行長黃仁勳受訪時更警示,技術能力與安全防護必須同步提升,若有客戶濫用旗下產品開發不安全軟體,輝達不排除停止供應 AI晶片。
五年捐助億級算力 支持英國三大學術重鎮
這項長期合作計畫預計每年釋出價值 5,000 萬美元的雲端運算資源,且全數以運算能力形式提供,而非傳統的現金建廠資助。相關硬體設施將部署於英國境內,由當地雲端服務夥伴提供運算平台,確保研究資料留在在地生態系中。
此計畫主要挹注英國三大頂尖學術機構與研究實驗室:
- 牛津大學開放式學習與探索實驗室(BOLD):專注於人類與 AI 的協同演進,開發能隨環境適應並預先嵌入治理機制的系統。
- 倫敦大學學院基礎 AI 研究科學實驗室(SOFAIR):致力於新型開源 AI 架構,降低技術開發與部署門檻。
- 倫敦帝國學院:聚焦於實體 AI 與機器人技術,探討能在真實物理世界中感測與採取行動的安全防護工程。
輝達表示,研究成果將結合開放式安全執行階段軟體(NVIDIA OpenShell)與參考設計(NVIDIA Sentry),建立安全沙盒與可重複驗證的測試基準,提供全球開發者作為防護依據。
黃仁勳強調責任開發 不排除管制不當使用者
隨著 AI 具備越來越多自主操作權限,潛在風險也大幅增加。輝達執行長黃仁勳透露,雖然屬假設情況,但若客戶利用輝達提供的硬體開發具危險性或違規的 AI 軟體,輝達確實可能停止供應晶片。
黃仁勳指出,輝達所提供的屬於通用型基礎設施,無法直接介入各家企業的日常營運,但企業必須為自身的應用承擔相應責任。面對業界對技術失控的擔憂,他認為這是產業高速成長過程中的陣痛期,關鍵在於打造足夠的監控與防護機制,讓軟體在可控環境下發揮效益。
這代表什麼
過去市場對於 AI 的安全討論,多集中在文字生成內容是否包含假訊息或偏見;然而,隨著發展重心轉向自主運作的「AI代理」,系統開始擁有存取資料庫、發送公務郵件、調用 API 甚至控制實體設備的權限。一旦這類軟體遭到駭客入侵或出現邏輯失控,將直接影響真實世界的企業營運與個人資安。
對台灣的中小企業與科技產業而言,這傳達了三個重要訊號:
- 導入概念轉變:企業未來在引進 AI 工具時,不能僅評估模型的生成能力,還需將權限管控、安全沙盒(Sandbox)機制與異常行為攔截列為標準規格。
- 國際法規與標準趨嚴:輝達透過算力綁定安全規範,預期將加速推動全球對 AI代理 安全標準的建立。台灣軟體開發商若欲對外輸出方案,必須提早對齊國際安全規範。
- 晶片供應商角色的延伸:頂尖硬體廠商不再只賣硬體,而是開始透過軟體架構與安全性準則建構生態系防火牆,產業競爭將從單純的算力比拚延伸至安全性與信任度的建立。
背景補充
所謂的「代理型人工智慧」,是指突破傳統問答模式的自主系統。傳統的大型語言模型(LLM)僅能根據提示字給出文字或圖片回應,而 AI代理 則能理解複雜目標,自動將任務拆解為多個步驟、選擇合適的工具,並在無須人類逐步下達指令的情況下自主完成任務。
輝達長期深耕英國學研生態,布里斯托大學建置的超級電腦 Isambard-AI 即採用了輝達 Grace Hopper 超級晶片。本次輝達選擇以算力的形式進行捐贈,一方面能在不影響自身現金流的前提下發揮邊際效應,另一方面也能鞏固其軟體環境與晶片架構在學術界與尖端資安研究中的核心地位。
常見問題
輝達這次捐贈的是現金還是硬體設施?
輝達提供的是五年總價值 2.5 億美元的雲端運算資源,全數以算力形式透過英國當地的雲端合作夥伴提供給研究機構,並非直接投入現金建廠。
什麼是代理型 AI(Agentic AI)?
代理型 AI 是能自主拆解任務、選擇工具並執行多步驟操作的系統,比起僅能對話回答的傳統 AI,其擁有更多系統操作與資料存取權限。
為什麼黃仁勳提到可能停止供應晶片?
黃仁勳強調 AI 安全的重要性,若客戶利用輝達晶片開發具有嚴重安全隱憂或違規的軟體,輝達不排除採取斷供措施以確保技術責任。