當攻擊者開始利用人工智慧(AI)加快偵察、弱點利用與資料竊取速度,企業資安防禦也面臨新的效率壓力。Google工程部門副總裁Royal Hansen表示,過去網路釣魚一直是攻擊者取得初始存取權限的主要手法,但近年事件調查顯示,弱點利用與遭竊憑證已成為更關鍵的入侵來源,企業防禦重點不能只停留在員工教育或郵件過濾,還必須強化底層平台、軟體開發流程與身分驗證架構。
Royal Hansen指出,台灣與許多高度數位化經濟體一樣,公私部門都面臨密集攻擊,若仍靠單一企業或組織各自防守,將難以形成足夠規模的防禦效果。他認為,數位韌性應該被內建到雲端服務、模型、電子郵件、試算表與手機等日常數位工具之中。也就是說,資安要能規模化,關鍵在於平台層預先納入防護能力,讓使用者在日常作業中自然取得較高安全基準。
在AI防禦應用上,Royal Hansen特別提到Google DeepMind研發的AI代理CodeMender。CodeMender是用於程式碼安全的AI代理,透過除錯器、原始碼瀏覽器等工具分析弱點根因並產生修補程式。Royal Hansen進一步說明,資安團隊過去最困難的環節,通常在於如何順利讓其他開發與維運團隊完成變更,單純找出弱點反而已非首要挑戰。軟體修改牽涉相依性、相容性、測試與部署風險,AI代理可同時評估不同修補方案,並以風險評分的方式比較多種修補程式,再挑選較佳方案進入部署流程。
他也強調,AI代理不宜被想像成單一萬能工具。較可行的作法,是建立任務明確的專用代理,例如持續檢查一年以上未使用的資料,將其移出高風險環境;或偵測長期未使用的權限,自動收回存取能力。這類代理可視為持續執行的安全維運控制點,負責處理人員不易長期維持一致性的基礎工作。藉此可有效率地降低曝險面,並減少長期累積的權限與資料風險。
Google工程部門副總裁Royal Hansen表示,AI代理進入企業流程後,安全機制必須內建於雲端、身分、資料與權限治理,讓創新應用建立可控基礎。
代理型AI(Agentic AI)邁入企業流程之際,Royal Hansen也提醒,風險治理必須同步跟上。他提到Google的安全AI框架(SAIF)已有針對代理型應用的安全思考,核心概念是讓代理生態系本身具備防護能力。Royal Hansen以Guardian Agent描述下一步方向:當代理執行任務時,旁側防護代理可即時判斷所需資料範圍,只授予短時間、有限度的存取權限,例如僅在任務期間開放,任務完成後立即收回。透過在數位基礎架構中納入風險控管機制,企業可降低代理濫用與新型攻擊手法帶來的影響範圍,讓代理型AI應用在受控條件下發揮效益。