隨著具備自主決策能力的 AI Agent 開始協助處理企業各項業務，專門針對機器邏輯的資安攻擊手法也隨之出現。研究顯示，新型態的網路釣魚能將惡意提示詞隱藏於網頁原始碼中，欺騙 AI Agent 執行錯誤交易或外洩敏感資訊。
專為機器設計的詐騙手法：隱藏指令誘導 AI Agent
傳統網路釣魚主要透過偽造逼真的網頁外觀來誘騙人類使用者輸入帳密，但最新出現的攻擊策略則將目標轉向自動化運作的 AI Agent（AI 代理）。這類攻擊手法被資安研究人員稱為「Scamlexity」，駭客會在網頁中寫入隱藏文字、中繼資料（Metadata）或程式碼註解，這些內容對人類瀏覽者不可見，卻能被 AI 讀取並執行。
當 AI Agent 協助使用者進行線上購物、審查廣告內容或處理財務流程時，網頁中的惡意指令可能指使 AI 忽視系統原本的安全規範。實驗與實務案例顯示，即使某個假冒購物網站對人類而言漏洞百出，AI Agent 仍可能信任隱藏指令，完成不合邏輯的購買動作，甚至把機密資料發送給惡意伺服器。
責任歸屬與安全把關：企業防護機制的防範重點
這種攻擊轉變暴露了自動化流程中的防禦漏洞。專家建議，企業在引進 AI Agent 時，不能將安全驗證完全依賴於 AI 模型供應商的官方宣稱，亦不可單憑個別工程師的經驗進行控管。特別是在金融等受高度監管的產業中，監管機構始終要求企業對其使用的 AI 行為負起最終法律責任，軟體交付後無法將風險轉嫁給模型開發商。
為了降低風險，企業應在 AI 投入生產環境前，設置嚴格的安全測試關卡與審查機制。同時，業界對於 AI 安全規範的討論也引發了權力壟斷的疑慮，有投資人指出，部分大型科技巨頭過度強調 AI 的極端風險，客觀上可能推動有利於既有市場領先者的法規制定，增加新創團隊進入門檻。
這代表什麼
這意味著資安防護的範疇已正式從「防止人類犯錯」延伸至「防止 AI 被暗算」。過去網路安全的關鍵防線集中在提升員工的防詐意識與驗證網址；現在只要企業賦予 AI Agent 自動執行任務的權限，就必須防範機器在讀取網路資料時被假資訊下達暗號。
對於台灣廣大的中小企業而言，若計畫導入自動化 AI 工具來協助採購、客服或網路資料抓取，切記不可直接賦予 AI 完全自主的支付與權限調閱能力。企業應導入「人機協同」的審查機制，並在存取外部網頁資料時實施內容過濾與安全沙盒機制，避免因為自動化而衍生意料之外的財務或法規風險。
背景補充
AI Agent（AI 代理）是指能夠接受高階指令後，自主規劃多個步驟、呼叫外部工具或應用程式介面（API），並代表使用者完成特定任務的智慧型軟體。與傳統單次問答的大型語言模型（LLM）不同，AI Agent 具備更強大的行動力，可以自行瀏覽網頁、填寫表單甚至進行線上付款。
然而，AI Agent 所使用的底層模型在處理資料時，通常無法徹底區分「系統給予的指令」與「從外部網頁讀取到的文字內容」。這種技術特性導致了所謂的「提示詞注入（Prompt Injection）」漏洞，使駭客只要在外部網頁藏入看似指令的文句，就有機會凌駕 AI Agent 的原始設定，引發自主 AI 的信任與防禦挑戰。
常見問題
什麼是 AI Agent 面臨的隱藏指令攻擊？
這是指駭客在網頁原始碼中植入人類看不見、但 AI 能解讀的惡意指令，誘導 AI Agent 在執行任務時做出錯誤決策或洩漏敏感資料。
企業應該如何防範 AI Agent 被惡意操控？
企業應在 AI 部署前設置嚴格的安全審查關卡，避免賦予 AI 完全獨立的支付與存取權限，並在關鍵決策節點加入人工確認。
AI Agent 與一般 AI 聊天機器人有何不同？
一般 AI 聊天機器人主要進行單次的文字問答，而 AI Agent 則能自主拆解複雜任務，並調用外部工具或 API 代表使用者執行實際行動。