隨著人工智慧（AI）技術的快速發展，全球正步入一個網路犯罪與資安防護同步升級的全新時代。趨勢科技提供的Trend Vision One平台可協助實作網路資安曝險管理，透過生成式AI（Gen AI）和自建的大型語言模型，讓IT團隊更精準地預測整體攻擊面的風險，主動防範來自端點、雲端、網路、電子郵件、身分、AI以及資料等管道的威脅。
趨勢科技網路犯罪研究前瞻威脅研究總監Robert McArdle指出，目前網路犯罪的型態正在轉變，特別是從「犯罪即服務」走向「犯罪即代理」。Robert McArdle認為，這表示未來的犯罪者可能不再需要具備高階技術能力，而是透過一連串的AI代理人（Agentic AI）自動執行攻擊任務。舉例而言，某AI代理人負責蒐集企業聯絡資訊，另一代理人專責撰寫釣魚郵件，再由第三代理人與目標互動進行詐騙。整個過程高度自動化、難以追蹤，且效率極高。
除了面對AI可能被運用於網路攻擊，企業本身在導入AI應用時也面臨諸多風險。趨勢科技台灣區總經理洪偉淦指出，根據OWASP所列舉的LLM十大風險，這些風險可大致分為兩大類別：資料安全與模型安全。在資料安全層面，AI模型訓練往往仰賴大量內部資料作為基礎，許多企業因為導入過程過於草率，直接將內部資料集毫無篩選地輸入模型中，導致敏感資訊暴露風險升高。此外，若訓練資料中混入惡意樣本，將可能污染模型輸出結果。
在模型安全層面，設計者雖可能為大語言模型設定功能限制，但這些防護機制常會被Prompt Injection等技術繞過。例如駭客可透過精心設計的輸入提示（Prompt），使模型產生原本不該執行的指令、外洩資料，或回應有害言論。
趨勢科技台灣區總經理洪偉淦（左）與趨勢科技網路犯罪研究前瞻威脅研究總監Robert McArdle（右）指出，面對網路犯罪態勢走向代理式，主動部署AI來對抗AI攻擊，已是資安產業必然的發展趨勢。
隨著AI風險日益升高，資安產業已不再被動因應，而是主動部署AI對抗AI。洪偉淦說明，趨勢科技的Trend Vision One平台，將各式AI防護機制整合至單一平台，協助企業實現端點、網路、雲端資產的聯合監控與風險識別。這樣的平台策略，除減少部署複雜度外，更提升整體防禦效率，讓AI真正發揮主動預防的價值。
此外，該平台亦強化了生成式AI於資產管理與攻擊預測中的應用，特別是在資安風險曝險管理（CREM）領域，透過部署感應器蒐集的資料，結合AI模型分析，能協助企業識別潛藏風險資產、推測駭客可能入侵的路徑，並提供優先處理建議，讓資安控管達到防患於未然的效果。