最新發布的全球數位信任調查顯示，在全球各類新型網路威脅中，高達五成企業認為自己對「針對 AI 系統發動的攻擊」最缺乏應對能力。因應自動化攻擊手段演進與地緣政治風險升溫，逾八成受訪組織計畫調升資訊安全預算，並將人工智慧（AI）安全防護與治理列為優先投資項目。
新型攻擊攻陷 AI 系統 企業資料保護漏洞持續擴大
隨著人工智慧（AI）模型能力飛速提升，新型威脅對企業資安防線構成重大考驗。目前前沿 AI 模型已具備自動掃描軟體未公開漏洞的能力，且能以極少的人力介入對漏洞展開複雜攻擊。調查指出，企業資安主管認為最缺乏應對準備的威脅前四名分別為：針對 AI 系統發動的攻擊（50%）、雲端相關威脅（40%）、第三方資料外洩（34%）及勒索軟體（33%）。其中，自主殭屍網路入侵（53%）、對抗式攻擊（52%）與資料中毒（52%）是企業最無力防範的手法。
地緣政治緊張情勢同步拉高了供應鏈網路風險，半數受訪企業正在調整供應商與第三方合作夥伴的風險管理機制；49% 則致力改善事件回應流程與網路保險策略。然而，作為 AI 信任基礎的資料管理能力卻顯著落後。調查顯示，在包含資料分類、外洩防護、資料加密、生命週期控管、品質管理、資料探索及最小化等七大關鍵資料風險措施中，企業平均僅落實三項，更有高達 95% 的組織未能全面貫徹這些基礎控管。
防衛轉向 AI 代理託管 人機協作與責任歸屬成防線關鍵
為因應攻擊速度的提升，84% 的資安與財務主管表明正在增加資訊安全預算，比前一年增加 6 個百分點，更有 58% 的安全主管將 AI 列為主要投資標的。防禦端最常部署 AI 技術的領域包含威脅偵測與警示（50%）、詐騙偵測（43%）以及網路釣魚偵測（42%）。
在軟體應用方面，企業正引入人工智慧代理（AI Agent）進行自動化維運，但大多採取保守的人機協作模式。僅有 22% 的企業授權 AI 代理在無人工審核的情況下執行完整防衛；38% 僅限特定範圍授權；36% 則維持由人員掌控、AI 僅做輔助。受訪者普遍傾向將 AI 代理指派給重複性高且定義明確的工作，例如威脅情資分析（49%）、隔離郵件（47%）及惡意軟體修復（46%）。不過，55% 的資安主管認為 AI 技術的可靠度與成熟度不足是推動自動化的主要阻礙，46% 指出責任歸屬缺乏可解釋性，44% 則坦承員工缺乏對 AI 系統的監督能力。
後量子密碼學挑戰浮現 企業準備進度大幅落後
除了 AI 技術引發的新風險，量子運算帶來的威脅也已被列入資安長的重點關注清單（排名第四）。然而，目前全球僅有 21% 的組織開始推動量子安全措施，近半數（49%）完全尚未啟動任何相應準備。
面對人才不足與技術缺口，資安託管服務（MSS）已成企業不可或缺的支援力量。資安主管將 AI 防護（53%）、雲端安全（49%）以及資料保護與信任（42%），列為未來一年轉向委外託管服務的核心優先項目。
這代表什麼
這份調查揭示了兩個核心訊息：AI 已從單純的企業生產力輔助軟體，演變為高度複雜的資安防線兩端。攻防雙方皆邁入自動化時代，駭客利用 AI 演算法尋找漏洞並發動自動攻擊，傳統仰賴人工巡檢與定期維護的防衛思維已不足以應對戰局。
對於台灣產業而言，許多中小企業作為全球供應鏈重要的一環，面對國際大廠全面提升第三方風險審查與資料安全要求，勢必得同步升級防禦能力。若未妥善做好資料分類與控管，一旦導入 AI 模型或對外整合系統，極易面臨資料中毒或遭注入對抗式指令的風險，進而影響整體企業信譽與客戶信任。
背景補充
為幫助非技術背景讀者理解調查中所提及的新型攻擊型態與專有名詞，以下提供相關背景概念說明：
- 對抗式攻擊（Adversarial Attacks）：指攻擊者向 AI 模型輸入微小且精心設計的干擾資料，使 AI 模型產生錯誤判定或輸出異常結果。
- 資料中毒（Data Poisoning）：攻擊者在 AI 模型訓練或知識庫建置階段植入惡意、錯誤的資料，藉此破壞 AI 系統的判斷邏輯，使其產生安全性漏洞。
- 自主殭屍網路（Autonomous Botnets）：具備 AI 自動決策能力的惡意程式網路，能夠在缺乏人類指令下，自動掃描伺服器與行動裝置漏洞並自行滲透。
- 量子末日（Q-Day）：指量子電腦具備足夠運算實力、能輕易破解現行主流網際網路加密技術（如 RSA 與 ECC）的那一天。由於升級密碼架構需時數年，企業需提前導入後量子密碼學（PQC）應對。
常見問題
企業在部署 AI 系統時，最常面臨哪些新型攻擊風險？
主要包括對抗式攻擊、資料中毒與自主殭屍網路入侵，這些手段能利用模型機制的缺陷誘騙 AI 做出錯誤決策或揭露敏感資訊。
企業目前如何將 AI 代理應用於資訊安全防護？
絕大多數企業將 AI 代理運用於重複性高的例行工作，如威脅情資收集分析、隔離網路釣魚郵件以及清除惡意程式，且大多搭配人工監督。
什麼是量子末日（Q-Day）？為什麼企業需要提前準備？
量子末日是指量子運算成熟到能破解現行主流資料加密技術的時間點。由於更換加密體系需耗時數年，提早規劃才能避免企業敏感資料遭公開解密。