近年來生成式人工智慧（GenAI）應用日漸廣泛，資安技術供應商莫不積極在自家產品中納入，來提升偵測高風險活動的偵測與回應能力，以及提高資安維運效率。日前Palo Alto Network最新發布的精準AI（Precision AI），正是借助自家擁有豐富的資料集所開發設計的演算模型，讓偵測、預防、修復安全問題都得以達到精準度。
Palo Alto Networks台灣技術總監蕭松瀛指出，Precision AI結合了多種先進的技術。首先是機器學習（ML）技術，已被整合進Palo Alto Networks的許多產品中超過十年。機器學習演算法的力量在於其能夠從歷史資料中「學習」，並進行預測。其次是深度學習，擁有自動化提取特徵的特性，減少對人工標註的依賴。透過學習大量非結構化資料，運行分析和偵測網路的惡意流量，並即時阻止威脅。
Precision AI同時納入了GenAI的應用，讓Palo Alto Networks解決方案具備AI助手功能，輔助IT或資安人員執行日常任務，利用自然語言處理（NLP）和簡單易用的特性，協助維運團隊能快速發現、理解和回應高風險活動，有效地縮短平均回應時間（MTTR）。
用AI來反制AI攻擊
Palo Alto Networks已將Precision AI技術整合到旗下Strata、Prisma、Cortex等平台，進一步強化這些平台的功能與安全性。功能特性主要圍繞著使用AI技術來對抗由惡意AI產生的潛在風險，例如強化進階網址過濾、進階威脅防禦、進階防火牆和進階DNS安全性。
隨著AI應用受到各行業關注，Palo Alto Networks技術長Michael Sikorski觀察，利用AI發動的社交工程攻擊，例如網路釣魚、商務電子郵件詐騙（BEC）等，勢必更加難以防範。
Sikorski亦預期攻擊者將利用AI技術製作惡意軟體，透過訓練大型語言模型（LLM）來學習現有的惡意程式碼，進而自動生成新的病毒變種。這種方法的危險在於能夠迅速產生大量且難以偵測的新型惡意軟體，迴避資安偵測機制。
其次是攻擊AI或演算模型也是值得重視的資安威脅。透過提示注入（Prompt Injection）、毒化訓練資料集（Poisoning Training Dataset）等手段，攻擊者可以操縱模型的輸出結果。這種攻擊不僅對個別模型構成威脅，還可能對整個AI生態系統造成長期的不良影響。例如，若訓練資料被汙染，則相關的模型可能無法正確學習，甚至在實際應用中產生錯誤或偏見的決策。
要有效應對AI驅動的網路攻擊，企業必須在其網路安全防禦策略中利用AI的功能。實施AI驅動的資安工具和控管策略，已逐漸成為現代化企業應對外部攻擊風險的關鍵。
掌握存取安全堵絕影子AI
GenAI工具在市場上琳琅滿目，每月都有數十種新應用推出，讓各種專業領域的工作者藉由GenAI應用程式來提升工作效率。問題是，這些應用程式大多在未經審查或批准的情況下就被用於執行工作任務，可能潛藏惡意程式、資安漏洞等風險卻不自知。
過去SaaS服務興起時，企業普遍出現「影子IT」的現象，如今開始演變成「影子AI」。員工傾向選擇可提供生產力的工具，這對於IT或資安團隊維護安全態勢時可能帶來阻礙。在這種情況下，Precision AI設計提供的AI存取安全（AI Access Security）機制，有助於掌握應用程式的可視性，透過儀表板進行審查、啟用控管政策等機制，降低GenAI應用程式可能引發的資安風險。
此外，AI存取安全技術可以進一步提升對AI平台的監管，防範因配置不當或平台漏洞所導致的安全漏洞。透過部署合適的控管措施，企業不僅能夠控制和管理AI應用的使用，還能在資料交換與處理過程中，提高透明度和安全性，進而在企業全面擁抱AI應用時，可有效地降低相關的風險和隱患。
Strata Copilot助理輔助問題排除
為了保護AI應用程式、模型和資料免受攻擊者污染或侵害，Precision AI設計提供的執行階段安全性（AI Runtime Security）機制，可抵禦提示注入、惡意回應、大型語言模型服務拒絕（DoS）、訓練資料污染，以及連線到惡意網址與中繼站、橫向擴散感染等活動。這些能力無需修改程式碼，即可保護所有人工智慧應用程式、模型和資料。
Precision AI提供另一個保護機制是AI安全態勢管理（AI Security Posture Management，AI-SPM），以防範機器學習等演算模型相關的特殊風險，包括資料暴露、誤用和模型漏洞。AI-SPM借鑑了現有的管理方法，如資料安全態勢管理（DSPM）、雲端安全態勢管理（CSPM）、雲端基礎設施權限管理（CIEM），並將其調整以應對生產環境中AI運行系統的特定挑戰。
AI-SPM工具提供了AI模型生命週期的可視性，從資料收集、訓練到部署。透過分析模型行為、資料流向、系統互動方式，AI-SPM有能力識別傳統風險分析和偵測工具可能無法察覺的潛在安全疑慮，以及合規性風險。企業可以利用這些洞察力來調整控管政策，確保AI系統以安全且符合規範的方式部署。此外，AI-SPM還可以監控針對AI發動的特定威脅，如資料污染、模型竊取等活動，即時向維運團隊發出高風險事件告警，並提供修復步驟指引。
Palo Alto Networks台灣技術總監蕭松瀛指出，Precision AI可達到精準程度，核心關鍵在於資料品質。Palo Alto Networks基於長久以來累積的資料集、機器學習與深度學習技術，搭配資安領域知識，藉此建構反制AI攻擊的機制。
為了協助維運團隊提高生產力，Palo Alto Networks積極運用GenAI發展Strata Copilot助理工具。蕭松瀛說明，Strata Copilot是由Palo Alto Networks推出的一款新產品線，其設計目的是提高維運團隊的效率和有效性。此產品利用Precision AI技術，結合自然語言處理的功能，使得IT或資安人員能夠快速地發現、識別和解決網路威脅。
Strata Copilot可說統整了企業網路環境的所有資料，來自Prisma SASE雲端服務、地端部署Palo Alto Networks次世代防火牆的網路流量，在經過檢查及分析後，其結果將可用於提供即時見解。IT或資安人員可透過自然語言方式，請Strata Copilot運行分析，例如列出上星期網路環境中的高風險行為、被觸發最多的控管措施，或詢問該採取什麼行動。如此一來，不僅提升了問題解決的速度，還增強了資安人員對複雜網路安全問題的理解和處理能力。
此外，Strata Copilot能夠提供有關如何補救問題的後續步驟建議，這些建議基於Palo Alto Networks超過65,000名客戶的最佳實踐，以及在網路安全領域累積的經驗，來幫助企業更快速地解決當下的問題。