AI代理人無法像人類那樣充分理解語境、意圖與後果，這使它們特別容易成為欺騙、操控與脅迫的對象。Anthropic資訊安全長（CISO）於今（2025）年四月提出一項引人注目的預測：未來一年內，搭載AI的虛擬員工將具備企業憑證，在組織中正式上線運作。這些AI代理人不再只是輔助工具，而將真正融入企業團隊，成為工作流程中的一員。
從商業角度來看，導入AI代理人具有明確的價值主張：它們帶來可擴展的自動化、降低人力成本，並具備不知疲倦的高效生產力。Salesforce已率先實現這一願景，近期推出AI「數位工作夥伴」。預估在未來兩年內，AI代理人的部署將成長高達327%。然而，從資安的角度來看，這場轉型是創新與風險交織的劇變。我們現在賦予的不只是系統存取權限，而是身分、自治能力與決策權限—這徹底改變了企業對於安全防護的思維模式與策略。
我們必須說清楚，這些AI代理人已不再是傳統意義上的工具。與傳統的自動化腳本或服務帳號不同，AI代理人以企業憑證登入，以驗證過的使用者身分行動，能夠自主決策、與系統及資料互動，甚至執行某些高敏感性任務。換句話說，它們擁有與人類員工相同的存取權限，而其所帶來的風險，也可與真實員工相提並論。
然而，與人類不同的是，AI代理人無法像我們一樣理解語境、意圖或行為後果。它們可能因為遭遇提示注入（Prompt Injection）或對抗性輸入（Adversarial Inputs）等技術手法而被誤導、操控甚至脅迫。長久以來，資安領域普遍認為人類是防線中最脆弱的一環，社交工程與網路釣魚攻擊正是利用人類心理弱點。然而，AI代理人的出現，則讓攻擊者瞄準了更為脆弱的新目標：這些代理人傾向於字面理解指令、不會主動求助IT支援，且以機器速度執行任務。一旦遭到入侵，這類AI代理人可能成為潛藏於企業環境深處的高頻寬且持續性的攻擊管道，大幅擴大企業的攻擊面與風險暴露範圍。
傳統的資安工具設計是圍繞人類行為模式而建構，例如登入機制、密碼保護、權限控管等。然而，當「AI員工」出現，這些根本假設正逐步被打破。目前在雲端環境中，非人類身份帳號數量早已遠超人類使用者，並快速成為主導力量。這代表資安策略必須從根本重新思考，不再只聚焦於人類使用者，而是全面納入這些擁有自主行為與身分憑證的AI實體。
隨著企業對雲端技術的投資持續飆升，AI已成為最主要的成長驅動力，大量AI代理人也隨之部署於雲端環境之中。在這樣的發展趨勢下，企業必須迎接AI安全的新時代，並採用能夠全面保障AI能力的現代化資安工具，特別針對以下關鍵問題提出解方：
- AI代理人在企業內部究竟擁有哪些自主性與決策權限？
- 如何持續監控其權限活動，並即時偵測異常行為？
- 這些代理人是否可能遭到提示注入（Prompt Injection）或對抗性輸入（Adversarial Input）等手法攻破或「越獄」？
- AI代理人所接受的訓練數據來源是什麼？是否涉及敏感或機密資訊？
!此為分頁標誌前台不顯示!