F5發布,F5 AI Guardrails已經整合NVIDIA NeMo Guardrails,此款AI原生解決方案,將F5的企業級AI安全功能延伸至生產線的AI應用環境。
安全性仍然是企業難以將AI概念驗證推展至正式部署的主要障礙之一。企業在混合多雲基礎設施中採用多種AI模型和框架,面臨安全控制分散、策略執行不一致,以及治理漏洞等問題,而這些漏洞會隨著每個新的AI應用而不斷擴大。多數AI框架都已內建基本的防護機制,但這些機制嵌入在個別應用程式內,不能由中央統一管理與執行。安全和合規團隊只能在各個工具和應用程式中拼湊可視性,缺乏一個統一平台來檢視AI流量、應用策略或稽核事件軌跡。
透過整合NVIDIA NeMo Guardrails,F5 AI Guardrails可為企業AI應用提供集中且一致的安全防護與治理能力,將安全政策的執行從AI框架中獨立出來。企業可以採用NVIDIA NeMo Guardrails作為安全框架,而F5 AI Guardrails則負責處理提示和LLM的回應內容,集中套用企業安全策略,無需修改既有AI應用。打造成為一個分層架構,其中框架庫、微服務、編排和安全功能各自發揮所長,並可獨立運作。
F5產品長Kunal Anand表示,企業並不缺乏AI應用,而是缺乏一套能跨越所有AI應用、兼具一致性安全與治理的機制。隨著AI投入生產環境,分散的安全控制將帶來風險、複雜性和延遲。透過此次整合,資安團隊可透過單一平台檢查AI流量、執行安全政策,並統一管理整體AI應用,同時讓開發人員能保有持續創新的彈性。
F5 AI Guardrails可保護AI系統安全,檢查使用者與應用之間的提示和回應,並協助防止提示詞注入、個人識別資訊(PII)外洩、資料外洩和惡意內容輸出。集中管理應用的安全性策略,而非內建於每個AI應用程式中,因此企業無需修改應用程式碼,即可落實企業的資安政策。主要功能包括:
- 提示與回應檢測:即時針對AI流量執行安全策略,偵測並減少提示詞注入、未經授權的資料外洩和有害內容輸出風險,避免影響使用者或下游系統。
- 集中式策略執行:安全團隊可透過單一管理介面,集中制定、套用和管理AI安全策略,無需重寫應用程式碼或修改工作流程。
- 跨AI應用的一致可視性:透過單一視圖了解跨模型、框架和業務部門的AI應用行為,安全團隊可以從一個操作層進行監控、審計和採取行動。
- 獨立分層式架構:F5安全偵測層建構於NVIDIA AI框架之上。每一層都可依需求變化獨立進行更新、擴展或替換。
這種方法消除了開發速度和安全需求之間的衝突,使AI平台團隊能夠快速推進編排工作,同時安全團隊也能獨立控制檢查、策略和治理。這種解決方案,讓雙方工作都無需互相等待。
NVIDIA生態系與行銷部AI網路與安全解決方案資深總監Ash Bhalgat表示,NVIDIA NeMo Guardrails提供開放且可編程的框架,為AI應用建立安全性與防護政策。透過與F5 AI Guardrails的整合,客戶可進一步擴展保護能力,在AI Agent邁向正式營運環境的過程中,為LLM的提示與回應提供更完善的安全防護。
F5 AI Guardrails與NVIDIA NeMo Guardrails整合後,可在不論採用何種底層大型語言模型的情況下,持續保護AI應用。企業可以更換模型、添加新的AI應用或跨業務部門擴展,同時保持安全檢查和策略執行的一致性。隨著AI應用的普及,安全設計也應隨之擴展,而不是限制其發展。
F5 AI Guardrails與NVIDIA NeMo Guardrails整合後現已正式發布。