根據美國國土安全部10月初發布的威脅評估報告，隨著11月美國總統大選來臨，外國勢力的網路攻擊和恐怖主義威脅日益嚴重。來自中國大陸、俄羅斯和伊朗的駭客組織不斷加強攻擊，試圖竊取機密資訊，並利用人工智慧和深偽技術製造虛假訊息，企圖分裂美國選民。
根據美國國土安全部10月初發布的威脅評估報告，隨著11月美國總統大選來臨，外國勢力的網路攻擊和恐怖主義威脅日益嚴重。來自中國大陸、俄羅斯和伊朗的駭客組織不斷加強攻擊，試圖竊取機密資訊，並利用人工智慧和深偽（Deepfake）技術製造虛假訊息，企圖分裂美國選民，影響民主選舉，甚至激化國內極端組織發動恐怖襲擊。
美國大選將屆，政治操作的干預或詐騙頻傳
這些外國勢力透過發布錯誤的投票資訊和利用生成式AI搭建假冒網站來擾亂選舉，並煽動社會不安。與此同時，伊朗亦有假冒人士鼓動抗議活動蔓延。另外，在美國國內的極端分子同樣構成威脅，透過暴力行為擾亂選舉過程，進一步激化黨派和族群對立，破壞美國社會凝聚力和對民主制度的信心。
無獨有偶，最近一起涉及參議院外交關係委員會主席Benjamin L. Cardin參議員的事件，凸顯了利用深偽技術進行政治操縱的擔憂。在一次視訊通話中，一名深偽冒充者假扮成烏克蘭前外長，並向參議員提出了敏感的外交政策問題，包括是否支持向俄羅斯領土發射遠程導彈。由於問題敏感，參議員開始產生懷疑，隨後結束了通話，並確認該冒充者是一名惡意行動者。參議院隨後證實了此一事件，也加劇了人們對外國勢力利用AI和深偽技術干預美國政治與選舉的擔憂。儘管過去幾年社交工程威脅與日俱增，但這次嘗試因其技術複雜性和可信度而顯得特別突出。
低成本、低風險、高報酬，深偽技術加劇金融詐騙蔓延
美國一位82歲退休高齡者，在2023年底看見馬斯克（Elon Musk）推薦的投資影片，聲稱該投資將快速回報，經過幾周的買賣交易，最終耗盡所有退休金，投入超過69萬美元都已遭騙走，然而這些影片都是AI生成的假影片。數位詐騙不是新興的問題，但隨著技術演進、更進階的AI工具發布，深偽成為新的網路詐騙手法，任何人都可以輕易操弄、模仿名人的聲音與影像，導致近期網路上有許多冒充馬斯克的假投資影片，尤其這些影片精準抓住馬斯克說話的節奏和口音，導致無數投資人受騙。根據Deloitte的預估，以AI生成的深偽影片每年將造成數十億美元的損失。
根據深偽監測和檢測公司Sensity調查分析超過2,000支深偽影片，其中馬斯克是最常被利用的人物，約出現在四分之一的深偽影片，尤其與加密貨幣相關的影片，出現率更高達九成，其他被利用的名人包含巴菲特（Warren Buffett）、Amazon創辦人貝佐斯（Jeff Bezos）等。研究加密貨幣社群的專家表示，馬斯克粉絲的獨特性質，如保守派、反體制者和加密貨幣愛好者，容易被以替代途徑賺取財富的方式吸引，使他們成為詐騙者的主要目標。此外，高齡者資訊能力較低且資本豐厚的特性，也成為詐騙者經常鎖定的標的。
社群平台成AI新科技最佳試煉場域與犯罪溫床
Sensity進一步研究分析，深偽影片的製作成本約為10美元，製作者大多位於印度、俄羅斯、中國大陸與東歐等地，以不到10分鐘的時間製做出深偽影片，並可翻譯成多種語言，以網路社群平台為主要傳播的管道，包含Facebook的付費廣告、YouTube等，導致詐騙範圍與活動擴大。在Facebook的廣告資料庫中，以詐騙常用字詞搜尋，會發現數十萬則廣告，其中包含許多深偽影片。YouTube則是另一個深偽影片流傳平台，例如今年7月比特幣大會結束後，YouTube上開始出現許多與馬斯克有關的直播（Live）影片，累積數十萬觀看次數，但其實都是預錄的深偽影片。
儘管Facebook以違反社群使用政策刪除許多影片，也禁用相關帳號；YouTube官方也發聲明表示在今年1月到3月間已經移除超過1,570萬個頻道和8,200多萬部影片，相關問題仍層出不窮。為了阻止詐騙活動橫行，Facebook母公司Meta正在訓練自動偵測系統來檢測平台上的詐騙活動，但同時也指出這些詐騙者背後有充足的資金，透過不斷更新的技術、策略來躲避檢測；YouTube也在今年3月發布禁止詐騙和操縱影片的政策，要求創作者如果使用AI創作逼真的內容則必須進行宣告及揭露。
網路效應放大AI技術帶來的負作用，警惕之心不可少
生成式AI有別於傳統人工智慧，可以從過去的資料中快速學習並採取行動。例如，可以透過少數資訊或樣本快速訓練生成式AI模型，創造諸如文字、照片和影片等內容。又進一步利用AI快速生成或盜用社群媒體帳號，在全球各地散播虛假或偏頗貼文，社群平台便成了生成式AI最好的試煉溫床。在技術不斷升級迭代下，可與受害人進行即時通話互動、支持多國語言、掌握對話理解能力、模擬影像及聲音與嘴型的一致性、掌握社群互動或數位足跡，以及處理更複雜任務的能力。而詐騙者利用生成式AI或虛擬代理人等技術讓網路攻擊和其他網路犯罪活動更有效率，且更難以被偵測或攔截。
生成式AI加速合成社群網路（Synthetic Social Network）的降臨，例如Meta的Llama 3模型或經過訓練模仿名人的聊天機器人已能創造出更具沉浸感和個性化的體驗。這些合成互動近乎真實，模仿真人說話或參與社群的方式，包括社群交友、數位廣告、新聞傳遞、電商零售等行為。合成社交網絡代表著用戶在線上互動方式的轉變，超越了傳統的人際連結，即時又充滿既視感，並跨越各種平台，讓用戶難以區分真實與虛假、人類與機器之別。惟目前看來AI的負作用反而是顯而易見，用於攻擊時的破壞力更讓人擔憂。消費者除了戒除貪心與不甘心，更須時時抱持警惕心，避免淪為受害者或無知的幫兇。
＜本文作者：朱南勳現任資策會MIC主任，專業於軟體與通訊產業研究，長期關注前瞻軟體應用與通訊技術發展趨勢。曾於緯創資通公司擔任產品經理、趨勢科技公司擔任市場競爭力研究員，負責新產品認證開發與國際電腦大廠專案，並曾任經濟部技術處5G辦公室副主任。資策會產業情報研究所（MIC）長期觀測高科技產業市場情報與發展趨勢，是臺灣資通訊產業與政府倚重的專業智庫。＞