生成式AI快速發展,企業導入相關工具以提升營運效率,犯罪組織也透過其輔助編寫惡意軟體,使犯罪工具更易於使用、演變威脅手法。趨勢科技指出,當前的網路犯罪態勢從「網路犯罪即服務(Cybercrime as a Service)」演進到以AI代理為基礎的「網路犯罪即代理(Cybercrime as a Servant)」,網路犯罪迎來重大變革,未來將出現全新的犯罪商業模式。
趨勢科技呼籲企業應隨時關注資安態勢發展,了解當今駭客常用攻擊手法,並利用整合性資安工具如:Trend Vision One做好網路資安曝險管理,透過生成式AI和自建的大型語言模型,讓IT團隊更精準地預測整體攻擊面的風險,主動防範來自端點、雲端、網路、電子郵件、身分、AI以及資料等各方威脅。
由於「即服務」(As a Service)的高靈活性與低成本,現代網路犯罪已成為「即服務」產業的典型範例,勒索病毒即服務、網路釣魚即服務、越獄即服務等模式已穩定發展為成熟的黑市經濟體系,駭客集團透過「即服務」這類型的攻擊手法讓網路威脅更易於擴散與變現。許多新興犯罪組織不但將勒索病毒即服務當作主要的商業模式,更透過商務電子郵件入侵(BEC)衍生的供應鏈攻擊持續肆虐;同時犯罪分子也利用AI開發惡意軟體,讓現有工具更高效,特別在網路釣魚攻擊中,駭客能更快速地生成各種語言並符合特定產業需求來撰寫客製化釣魚郵件。儘管AI技術尚未能完全自動生成惡意軟體,但深偽(DeepFake)技術的普及已讓犯罪分子能輕易利用低價或免費的服務來實施詐騙。
然而,隨著AI技術快速進步,網路犯罪也被迫轉變。首先,全球多國執法機構、資安專家與民間組織合作破獲許多大型的駭客組織。這些破獲行為不僅導致勒索病毒的成功率大幅下降,也間接摧毀網路犯罪集團間的合作與信任。再者,勒索病毒即服務的市場更加分散,駭客難以快速建立高度壟斷的生態系,必須投入更多資源與時間重建影響力,導致其攻擊變得更加零散,進而降低了網路犯罪的經濟效益。此外,受惠於生成式AI的大規模分析與推理能力,資安廠商能更全面地預視來自端點、雲端、網路等各種面向的資安風險,企業得以提前預視潛在威脅,也大幅削弱了駭客成功攻擊的潛在路徑。種種資安現況的轉變,將導致網路犯罪朝以下三種新態勢發展:
當人類與AI的合作模式從由AI助理被動提供建議,轉為依賴AI代理主動執行任務,網路犯罪也預期將從現有的「網路犯罪即服務」模式轉變成大幅運用AI代理建構的新模式-「網路犯罪即代理」,透過AI建立自動化流程提升攻擊效率,獲得更高報酬。
當網路犯罪透過AI代理自動化,駭客能比過往瞄準更多目標,犯罪集團得以擴大攻擊範圍,持續找到更多有利可圖的潛在市場,將目標拓展至東南亞或拉丁美洲等新興市場。當犯罪行為變得成本更低、門檻更低、操作更高效,更具規模化,全球各地都將面臨更嚴峻的資安威脅。
為了讓「網路犯罪即代理」順利運作,駭客組織將會需要大量的運算資源和基礎架構來訓練AI代理,因此,有別於過往駭客盜用雲端資源部署加密貨幣從事挖礦的惡意行為,駭客將攻擊如:Amazon Bedrock、Azure AI、Google Vertex等生成式AI即服務的供應商,以及盜用雲端帳號以取得更多微服務架構或算力。