LLM這個縮寫不僅僅代表「大型語言模型」，如果未進行針對自身環境的適當網路安全評估，LLM可能還意味著「巨額財務損失」（Large Loss of Money）。這些AI驅動的系統承諾提高效率和創新，但其背後隱藏的安全風險可能會對組織造成財務災難。
作為組織的資安長（CISO），其職責是預測並減輕新興的網路安全威脅。今年的新興技術（可能也是危險技術）是大型語言模型（LLMs）。然而，LLM這個縮寫不僅僅代表「大型語言模型」，如果未進行針對自身環境的適當網路安全評估，LLM可能還意味著「巨額財務損失」（Large Loss of Money）。這些AI驅動的系統承諾提高效率和創新，但其背後隱藏的安全風險可能會對組織造成財務災難。
公司的財務與聲譽可能面臨風險
企業可能已經開始使用LLM，甚至CISO自己也在使用。其他高層可能也在推動為客戶或員工構建專有LLM。雖然LLM的「首日收益」可能在短期內顯示出效率和生產力的提升，但從長遠來看，LLM需要納入全面的網路安全評估。未經充分的安全審查就將LLM整合到業務中，可能導致巨大的財務損失，而這種損失與資料外洩所帶來的損害無異。
此外，請思考，如果LLM產生有害或冒犯性內容，影響了客戶信任和品牌形象，這對公司的聲譽將帶來怎樣的衝擊？
LLM是一個複雜的新攻擊面
LLM作為一種新技術，其攻擊面大多數組織仍未完全理解。這是任何重大技術轉型的正常現象。應該從內部向外審視攻擊面，從提示注入（Prompt Injection）到資料竊取（Data Exfiltration），LLM為精密的網路犯罪份子開啟了新的攻擊途徑。
因此，對這些新技術進行安全審核至關重要。在引入任何新技術時，審慎評估始終是良好的做法，尤其是LLM技術。目前的安全防禦者對這些強大技術的認知仍停留在表面，而攻擊者不受企業內部管理約束，這讓他們擁有更靈活的優勢。他們不需要取悅股東，攻擊失敗了，他們可以立即改變策略，而企業組織卻必須從一開始就確保安全。
未經適當的網路安全評估 LLM可能帶來的財務風險
我們生活在數位世界，以位元與位元組（bits and bytes）為基礎，但財務損失的風險不容忽視。網路安全框架只是眾多工具之一，而要做好安全防護，必須選擇正確的工具。
大多數網路安全評估框架並未設計用於衡量AI相關攻擊帶來的財務損失。這些技術框架只是框架，並不全面。即使它們能夠估算資料洩露的成本，也無法展示一個看似無害的漏洞如何演變成數百萬美元的危機。隨著越來越多的LLM被整合到企業的日常業務中，這些風險將持續上升。
攻擊者如何利用LLM？
LLM讓攻擊者能夠迅速造成重大影響。例如，攻擊者可能操縱企業的LLM洩漏機密資料或執行惡意命令。短短幾分鐘內，企業可能會面臨前所未有的財務和聲譽損害。
‧資料竊取（Data Exfiltration）：機密資料（如客戶資訊、智慧財產權或內部機密）可能因LLM漏洞而外洩。這樣的資料洩漏可能帶來嚴重的財務損失，包括監管罰款、違規通報以及高昂的補救成本。研究表明，60%的中小企業在遭遇資料洩漏後的六個月內倒閉。此外，根據《一般資料保護規則》（GDPR），罰款可能高達全球營收的4%。
‧代碼/命令執行（Code/Command Execution）：惡意提示可能會觸發未經授權的操作，導致系統關閉，甚至讓攻擊者獲得對關鍵系統的存取權限。企業可以承受多長時間的停機？Gartner的研究顯示，IT停機的平均成本為每分鐘5,600美元。將這個數字乘以數小時，甚至數天的停機時間，結果將是災難性的。
‧詐騙與直接財務損失（Fraud and Direct Financial Loss）：LLM可以被操縱來生成欺詐性內容或執行虛假交易。在金融等受監管產業中，一筆欺詐交易就可能導致罰款、失去合同或面臨法律訴訟。最終成本可能達到數百萬美元。
‧聲譽損害（Reputational Damage）：當LLM相關的安全事件曝光時，影響的不僅僅是法律罰款或監管處罰，還包括客戶信任的流失。即使沒有直接的資料洩露或技術故障，企業的聲譽仍然可能受到嚴重影響。與傳統網路威脅不同，LLM的聊天介面本身就帶來風險，因為看似無害的輸出可能包含有害或冒犯性內容，從而影響品牌形象。
聲譽損害是一顆財務定時炸彈
當涉及LLM的安全事件公開時，影響的不僅是法律罰款或監管處罰，更重要的是客戶的信任，即使沒有直接的資料洩露或技術故障，企業的聲譽仍可能受到嚴重影響。
與傳統的網路威脅不同，LLM的聊天介面本身就帶來風險，因為其輸出（看似無害的人類語言）可能變得極具危險性。我們都知道言語可能會傷害人，但這些文字也可能對你的技術帶來傷害。
「軟性」但更隱蔽且無法預測的威脅
LLM構成的威脅遠比傳統的網路風險更為隱蔽且不可預測，這些風險超出了企業安全團隊所熟悉的技術範疇。在傳統威脅中，攻擊面通常是高度技術性的，由目標的技術或特定應用流定義。
然而，LLM的「協議」是自然語言，這大幅擴展了攻擊面，使攻擊方式超越傳統技術漏洞，轉向人為操控。社交工程攻擊長期以來一直針對人類，如今這些手法已經延伸至技術系統。
在針對多個資料集的提示注入漏洞研究中發現，許多案例最終導致了聲譽損害，這些情況包括有害、冒犯、偏見或經過操縱的輸出，以及LLM產生的與開發者原意不符的回應。我們已經見識過有害行為對人類社會的負面影響，隨著技術愈發貼近人類大腦的運作模式，必須更加警惕這些「軟性」但極具威脅的技術風險。
如何保護你的LLM免受攻擊？
LLM不是普通的技術工具，而是一個全新的攻擊面，帶有獨特的風險。如果未對這些系統進行適當的安全審查和財務風險評估，你的組織可能會面臨潛在的災難。因此，確保你的LLM安全解決方案涵蓋以下四個關鍵方面至關重要：
1.提示安全控制（Prompt Security Controls）：確保LLM具備全面的提示內容過濾機制，可監測和阻止惡意輸入與輸出，並利用防禦性提示工程技術防止LLM被操縱。
2.沙盒與網路分割（Sandboxing and Segmentation）：LLM交互應在沙盒環境中進行，並與關鍵運營系統隔離，以防止未經授權的命令執行。
3.行為分析集成（Behavioral Analysis Integration）：使用行為分析技術來建立LLM交互的基線，並標記異常行為，以識別潛在的詐騙活動或未授權操作。
4.嚴格的審計追蹤（Rigorous Audit Trails）：記錄LLM交互日誌，以追蹤輸入、輸出和交易，確保事件發生後能迅速分析和應對。
未來展望
LLM技術提供了學習與改進的機會，尤其對於保護數位資產至關重要。現在正是研究與測試這些技術的最佳時機，就像對待任何重大技術進步一樣。Akamai將繼續利用全球可視性來發現、監測並報告威脅，以確保客戶、員工以及整個安全社群的安全。
＜本文作者：王明輝現為Akamai大中華區資深技術顧問＞