到2025年，將見證APJ地區的組織如何以翻天覆地的方式接受人工智慧。近一半的企業正準備大幅增加人工智慧投資，為創新爆炸鋪平道路。到2028年，預計將有超過1100億美元投入人工智慧技術。
將看到一個不容忽視的AI安全的重要轉變。企業需要關注兩個關鍵領域：保護其AI系統免受漏洞攻擊，以及抵禦日益複雜的AI驅動攻擊。網路犯罪分子已經在利用AI來提高方法的有效性和規避性，這意味著企業必須加強其安全框架來應對這些不斷演變的威脅。
去年，這是全球選舉創紀錄的一年，預計60個國家／地區的約40億人將投票，其中包括美國、英國、歐盟、臺灣、南非和印度的重大選舉。生成式AI在這些選舉中留下了印記，其複雜的攻擊旨在欺騙選民並影響選舉。
2025年將是這些工具和技術（例如Deepfakes、定向詐騙、社會工程）進入低端市場併為普通網路犯罪分子隨時可用的一年。消費者和組織需要警惕各種形式的互動（電子郵件、簡訊、電話和視頻通話）中的假冒和詐騙。
隨著安全漏洞的出現，圍繞大型語言模型（LLM）的炒作將面臨嚴峻的現實檢驗。雖然一些可利用的缺陷已經公開披露，但可以預期這些問題的頻率和嚴重性都會增加。LLM為惡意行為者提供了重要的攻擊面，這些漏洞的性質和位置將變得越來越明顯。隨著風險越來越明顯，組織將需要權衡LLM的承諾與潛在的安全隱患，從而在其AI戰略中採取更加謹慎的方法。
從2025年開始，將看到人們越來越關注AI安全的兩個方面：保護AI系統和抵禦AI驅動的攻擊。畢竟，網路犯罪分子也在研究如何利用AI來提高攻擊更加規避、更高效、更有效。AI將降低攻擊者的進入門檻，加速識別和利用漏洞的能力。
雖然專注於AI很重要，但不能忘記安全基礎。攻擊者仍會攻擊API端點，並且仍會進行網路釣魚攻擊。需要確保及時部署補丁，保護措施始終處於開啟狀態，並確保人們不斷接受培訓以識別和緩解惡意活動。因為無論有沒有AI，這些威脅都不會消失。