思科攜手 Anthropic 推出 AI Agent 安全防護與觀測架構 導入 Claude 模型的紅隊演練技術

網路與資安巨頭思科宣布將 Anthropic 旗下的 Claude Mythos 模型導入旗下資安平台 AI Defense,強化企業對人工智慧代理(AI Agent)進行模擬攻擊與壓力測試的能力。透過整合 Splunk 的觀測技術與 Cisco IQ 的漏洞分析,思科致力於建立涵蓋安全防守、效能監控與成本治理的全方位信任機制。

導入 Anthropic 模型 強化 AI Agent 紅隊演練與安全防護

隨著企業大量將智慧代理引入核心業務,傳統的靜態安全檢查已無法因應多步驟且極具動態性的對抗攻擊。思科自 2025 年初推出 AI Defense 解決方案以來,持續幫助企業在模型上線前挖掘漏洞。本次結合具有強大推理能力的 Claude Mythos 模型,進一步推出了自適應紅隊演練(Adaptive Red Teaming)功能。

該系統能夠運用先進的對抗性推理能力,模擬駭客邏輯自動生成多階段的攻擊路徑,協助資安團隊測試目標系統的抗壓度。為了確保測試過程本身的安全,思科設有嚴格的存取控制,包括僅能掃描經過授權登記的目標、每次演練需綁定實名認證操作員,並設有可隨時強制中斷的執行時間限制。

Splunk 整合觀測能力 精準掌控 AI 成本與效益

除了事前的安全測試,事後的運作可視性與費用管理也是企業能否擴大部署的關鍵。思科結合 Splunk Agent Observability 推出 Tokenomics 成本管理工具,支援將 Amazon Bedrock 及 CloudWatch 的數據進行跨平台分析,把每一筆 Token 費用與實際輸出的品質連結起來,讓管理者能直觀了解 AI 投資報酬率(ROI)。

同時,思科也推出新一代 Eval-G1 評估模型,讓企業運用自身的執行日誌與專家經驗微調出輕量化的小型語言模型(SLM)。相較於直接呼叫大型商用模型進行安全評估,新模型的判定速度提升了 2.5 倍,整體運行成本最高可降低 98%,幫助企業以極低代價做到即時防禦與品質維護。

這代表什麼

這項發布象徵著企業應用 AI 的思維正在從「實驗試用」邁向「規模化落地」。過去許多企業遲遲不敢讓 AI Agent 連接內部核心系統,主要顧慮在於潛在的安全漏洞(如提示詞注入攻擊或敏感資料洩漏)以及無法預測的 Token 費用支出。

對台灣中小企業與 IT 負責人而言,思科將資安測試與成本觀測結合的作法,顯示出未來 AI 治理不再只是 IT 部門的技術問題,而是防禦風險與財務控制的綜合管理。欲落實 AI 轉型的企業,必須在專案初期就考量系統的安全性評估與效益追蹤機制,而非僅關注模型的生成品質。

背景補充

「紅隊演練(Red Teaming)」原為軍事術語,在資安領域指由專業人員扮演攻擊者(紅隊),對組織的防禦體系進行實戰化模擬攻擊,以找出未知的安全漏洞。在人工智慧時代,紅隊演練被延伸用於測試 AI 是否容易被誘騙發出不當言論或執行非法指令。

「AI Agent(人工智慧代理)」則是具備自主規劃、工具調用與執行任務能力的 AI 系統,比起僅能回答問題的聊天機器人,代理能深入串接企業資料庫與各項應用軟體,但也因此帶來更高的資安防護門檻。思科於 2024 年完成對巨量資料分析與觀測巨頭 Splunk 的收購後,持續積極把 Splunk 的監控能力與自身網路資安架構進行深度整合。

常見問題

什麼是 AI 紅隊演練?為什麼這對企業很重要?

AI 紅隊演練是透過模擬駭客攻擊或極端提示詞,測試 AI 系統是否會洩漏資料或執行危險指令。這能確保企業在正式把 AI 應用於業務前找出漏洞。

思科推出的 Tokenomics 功能主要解決什麼問題?

Tokenomics 主要解決 AI 呼叫成本難以預測的問題,它將 API 產生的 Token 費用與實際運算品質連結,讓企業能精準衡量 AI 專案的投資報酬率。

使用第三方 AI 模型進行安全演練,會不會有資料外洩風險?

思科在系統設計上加入嚴密防護,僅限授權目標測試,演練過程完全透過封閉介面執行並留存完整稽核軌跡,不會開放隨意查詢。