Red Hat收購Chatterbox Labs，該公司是不仰賴特定模型（model-agnostic）的AI安全與生成式AI（GenAI）安全功能的領導業者。此收購將為Red Hat AI產品組合導入關鍵的「AI安全防護」能力並強化Red Hat的佈局，打造全方位且專為混合雲設計的企業級開源AI平台。
Red Hat AI在過去一年展現強大的創新動能。繼推出Red Hat AI Inference Server與Red Hat AI 3後，此併購再注入全新驅動力。全球各產業客戶正積極採用Red Hat AI，並透過生成式、預測式與代理式AI應用推動創新。當企業從實驗階段邁向生產環境時面臨複雜的挑戰：AI模型不僅需要強大的效能，更必須具備可驗證性、可信度與安全性。安全性與安全功能已成為現代機器學習營運（MLOps）的必備條件。對安全與信任的重視正反映Red Hat與IBM的企業承諾，即致力於協助客戶於跨混合雲環境中負責任地擴展AI，同時建立「安全優先」的思維。整合Chatterbox Labs技術後，Red Hat將打造出內建安全機制的統一平台，使企業能在任何環境、各種加速器與模型上，穩定執行生產環境的AI工作負載。
Red Hat AI工程暨產品策略副總裁Steven Huels表示，企業正加速將AI從實驗室推向生產環境，因此，企業亟需部署可信任、安全且透明的AI。Chatterbox Labs創新且不限於特定模型的安全測試與安全功能技術，正是產業所需的關鍵AI安全防護層，而Chatterbox Labs與Red Hat AI產品組合的整合則強化我們對客戶的承諾。Red Hat提供全方位的開放原始碼平台，客戶不僅能於任何環境中執行任何模型，更能進一步確保從最初就內建安全機制。此收購將協助我們實現真正負責任且具規模的生產級AI。
Chatterbox Labs共同創辦人暨技術長Stuart Battersby博士表示，隨著AI系統深入企業與社會的各個角落，我們不允許安全成為封閉的專有黑盒子。AI安全功能不應僅止於部署，更須經過嚴格測試，並由可驗證的數據指標佐證。Chatterbox Labs從早期的預測式AI階段到未來的代理式系統，始終做為此領域的領航者。加入Red Hat後，我們能將這些經驗證且獨立的安全指標帶入開放原始碼社群中，這樣的透明性讓企業得以在不被綁定於特定業者的情況下驗證安全性，共同開創且受益於安全、可擴展且開放的AI未來。
Chatterbox Labs成立於2011年，在AI安全與透明度領域擁有深厚技術，其量化AI風險的專業經驗深受全球獨立智庫與政策制定者的肯定。此收購也為Red Hat帶來核心的機器學習技術。
Chatterbox Labs提供自動化且自訂的AI安全防護測試，能產出精確的風險指標，協助企業領導者做出評估，進而核准將AI部署至生產環境中。該技術透過下列方式，提供強大且不限於特定模型的驗證方法：
- 用於生成式AI的AIMI：為大型語言模型（LLM）提供獨立的量化風險指標。
- 用於預測式AI的AIMI：驗證任何AI架構在關鍵指標的有效性，包括穩定性、公平性與可解釋性等。
- 安全功能：在模型投入生產環境前，精確辨識並修正具安全風險、有害或帶有偏見的提示詞（prompts）。
此收購與Red Hat的願景一致，致力於支援跨混合雲環境上的多樣化模型與部署目標。此外，也完善Red Hat AI 3針對代理式AI與模型上下文協定（MCP）推出的前瞻功能。代理式AI扮演複雜的自動化角色，可能直接影響核心業務系統。因此當企業採用代理式AI時，模型的可信度與安全性將變得更加關鍵。
Chatterbox Labs已針對全方位代理式安全展開研究，包括監控代理程式的回應，以及偵測MCP伺服器的動作觸發機制，而此研究成果與Red Hat針對Llama Stack及MCP支援藍圖一致，賦能Red Hat得以在可信且具備企業就緒能力的基礎上，保障新一代智慧自動化工作負載的安全。結合Red Hat的MLOps能力與Chatterbox Labs的安全功能，將能協助企業更有信心地將AI投資轉化為實際營運成果。