CyberArk推出FuzzyAI，一個先進的開源專案，能破解所有主要測試過的AI模型。FuzzyAI協助企業識別並解決AI模型的漏洞，例如繞過防護機制和產生有害輸出等問題，適用於雲端託管和內部部署的AI模型。
AI模型正透過創新的應用改變各行各業，包括客戶互動、內部流程改進及自動化。然而，這些模型的內部使用同時也帶來了大多數企業尚未準備應對的新資安挑戰。
FuzzyAI透過為企業提供一種系統化的方法來測試AI模型對各種對抗性輸入的反應，協助解決部分這些挑戰，揭示其安全系統中的潛在弱點，使AI的開發和部署更加安全。FuzzyAI的核心是一個功能強大的模糊測試工具，專門用於揭露軟體缺陷和漏洞，能夠揭露超過十種不同攻擊技術進而找出漏洞，從繞過道德過濾器到揭露隱藏的系統提示。FuzzyAI的主要功能包括：
- 全面模糊測試：FuzzyAI使用各種攻擊技術測試AI模型，揭露漏洞，例如繞過防護機制、資訊洩漏、提示注入或產生有害輸出。
- 可擴展平台： 企業和研究人員可添加自行定義的攻擊方法，針對特定領域的漏洞進行測試。
- 社群協作： 不斷壯大的社群生態系統，促進對抗技術和防禦機制的持續進步。
CyberArk產品長Peretz Regev表示，FuzzyAI的推出突顯CyberArk對AI安全的承諾，並協助企業在解決AI模型使用演進中固有的安全問題上邁出重要一步。由CyberArk Labs開發的FuzzyAI已展示其破解所有主要測試過的AI模型的能力。FuzzyAI讓企業和研究人員能夠識別弱點，並積極加強其AI系統以抵禦新興威脅。