藉Codex開發惡意程式　了解駭客思維做出反制

本系列文章從多個面向探討Codex的功能在資安上可能影響一般開發人員和駭客的特點，本文是該系列文章的第四篇，也是最後一篇（前三篇請參考網管人198期「人工智慧Codex幫寫程式　程式員想用駭客也想用」、199期「Codex程式產生器開箱　編程好幫手但還不實用」、200期「自主AI不適任軟體開發　產出程式碼卻需費力修正」內容）。

Codex的訴求主要還是用於「輔助」程式設計：一個讓程式設計師在處理一些重複性工作、學習新的技能以及解決重複的已知問題時可節省時間和力氣的工具。

這類功能不僅對經驗豐富的程式設計師有所幫助，能讓他們縮短花費在標準化程式碼上的時間，對於程式設計的新手、業餘程式設計師以及學生來說，這類輔助功能可提供他們一些聰明的建議，而這些建議都是來自Codex訓練資料的各種程式碼所集體累積的經驗。 所以，像Codex這樣的程式設計輔助工具，對於駭客在訓練或學習如何開發惡意程式技巧時可能會有哪些用處？要回答這問題，首先要設身處地想像一下自己是一名菜鳥駭客，然後試著看看Codex如何幫助提升和學習新的技巧。

從頭打造一個鍵盤側錄程式

第一個範例是要Codex撰寫一個鍵盤側錄程式。一開始，該系統真的就照著我們的話去做：從鍵盤讀取輸入，然後利用Python的pyHook函式庫把整個Windows的鍵盤輸入記錄下來。就像很久以前那個嶄新的微軟Office提供的迴紋針工具一樣，就字面上來說，Codex的答案並沒錯，但並不是我們所想要的（圖1）。

在第二次嘗試時，給了一個比較明確的指示，要求這個鍵盤側錄程式要將記憶體內容寫入一個檔案。儘管工作內容更加明確，但Codex系統還是失敗了，它將「鍵盤側錄程式」的概念擴大解釋成「間諜程式」，然後設計了傳統上間諜程式應該要有的功能，例如螢幕擷取程式（圖2）。

這樣的結果確實相當有趣，因為它藉由搜尋相關的功能，展現了某種程度的「巧合」。此外，對於新手駭客來說，像Codex這樣的工具也展現了一些教育價值，讓新手能透過循序漸進的方式培養開發更高階間諜程式功能的技能。當然這一點目前還沒有實用價值，因為它純粹只是隨機選擇一些相關的程式片段，但可以想像這項技術未來的輸出，確定性會愈來愈高，到時候就能根據使用者的要求、行為及整體情境來提出建議並實作一些輔助功能。

產生針對銀行、電子商務與支付平台的攻擊程式碼

接下來，換一個較為進階的主題：網頁程式碼注入。這是目前金融相關網路犯罪常見的一種駭客技巧，駭客利用這項技巧在網頁顯示之前將HTML或JavaScript程式碼注入網頁，如此一來，就能在使用者輸入網頁的資訊被傳送至網站伺服器之前，先加以修改或蒐集這些資訊。

這項攻擊技巧的一種可能情境是：修改支付請求的部分內容，使用者看到的是正確的帳號資訊，但傳送至電子商務伺服器之前卻更改成駭客的帳戶。還有另一種情境是用來竊取信用卡資料或登入憑證（不論是在網頁上輸入或是儲存在使用者裝置上的資料），做法是除了將資訊傳送給金融機構之外，同時也傳送一份至駭客的伺服器。

了解這些觀念之後，接下來做個實驗來檢驗看看Codex是否擁有某些金融機構的資訊，並試著產生網頁注入程式碼。在要求中輸入「web login inject <公司名稱>」這幾個關鍵字。

第一次實驗時產生了正確的網路銀行網域，以及攔截認證Cookie 的相關程式碼。沒想到單純只是輸入了幾個關鍵字，就能產生對駭客新手有幫助的初步程式碼框架。在第二個範例中更換了公司名稱（從「sberbank」換成「boa」），結果竟然得到一段更為通用的程式碼，只有函式的名稱含有公司名稱，函式內容的程式碼則都只跟工作內容有關（圖3）。

第三個實驗是關於另一種稱為「暴力登入」的攻擊技巧。這項實驗中，在對Codex的要求中輸入「code brute force paypal」這幾個關鍵字。結果Codex引擎產生的函式裡面包含正確的登入與認證首頁的網址，但後續的重導網址卻是舊的。函式的程式碼倒是有符合原本要求的工作，同時還包含錯誤處理程序，並實作了一段密碼字典式暴力登入攻擊程式碼：它會送出一個含有瀏覽器版本、登入名稱和密碼的表單，然後再分析收到的結果。

在真實世界情境中，登入憑證和來源IP位址可能需要輪替一下，並且加入隨機的延遲時間，以免容易被偵測或觸發反詐騙系統或IPS規則。換句話說，這次產生出來的程式碼在不修改的狀況下就已經是有效的概念驗證程式碼，只不過還需要一點修改讓它具備擴充性並適合用於實際攻擊（圖4）。

網路釣魚網頁與惡意操弄SEO搜尋引擎最佳化

不論對駭客老手或新手來說，網路釣魚和社交工程技巧都是常用的手法，所以這裡要試驗一下Codex在這方面的能力如何。

目前Codex看起來似乎不是產生網路釣魚網頁的理想工具，效果不佳，當要求它產生一個很像PayPal登入頁面的網頁但背後要連上駭客的伺服器時，得到的恰恰相反：它產生了一個跟PayPal不像但卻指向PayPal端點裝置的網頁。不過覺得這只是一時的挫敗，隨著AI模型和語言轉換器的不斷改進，相信不久的將來，應該就能光靠一道指令就產生出完美的網路釣魚網頁（圖5）。

另一方面，有一種惡意操弄SEO搜尋引擎最佳化的技巧是產生許多包含特定關鍵字和無意義字詞或句子的網頁，完全不在乎句法是否正確（但現在大多數搜尋引擎都能偵測這種情況）。搜尋引擎要消除這些「汙染」應該不是太難，因為這些網頁上的句子不是完全沒有文法可言，就是來自於一些罐頭範本，而且頁面通常長得很醜。

這裡看到了Codex的一種可能用途就是用來產生大量合乎文法的句子，裡面還夾雜一些付費購買的關鍵字，而且讀起來還很通順，除非對相關主題有所涉略，不然應該看不出來有什麼不對勁。在下面的範例中，第一個截圖是一個典型無意義、惡意操弄SEO的網頁，第二個截圖是一個寫得還算不錯，但卻是使用Codex輕輕鬆鬆就能產生出來的網頁（圖6）。

一個類似的情況是，由非英語系駭客所製作的網頁通常含有拼字錯誤和文法不順的問題。此時，Codex就可派上用場，幫忙產生流暢且像以英文為母語的人所撰寫的內容，只須輸入正確的指令就行。其效果甚至可能比駭客用自己的語言撰寫網路釣魚網頁還好，甚至比Google翻譯還強。

結語

OpenAI的Codex確實提供了不少用途，能讓開發人員節省時間並幫助他們學習程式語言。但它也暴露出某些不良的一面以及能力上的不足。但很重要的一點是，要讓一般大眾知道這當中的某些情況，因為駭客可能將它用於各種不同用途：

‧回答一些與它設計無關的用途。Codex可能會暴露一些原始程式碼訓練資料中的敏感資料。因此，駭客可能利用Codex來蒐集攻擊目標的敏感資料，尤其是他們的IT基礎架構與員工相關的資料。Codex的回答可能會暴露一些連線指令、寫死的登入憑證、存取金鑰、內部系統命名方式、資料庫的名稱和結構、搜尋引擎查不到的資產與文件連結，以及員工的姓名、聯絡資訊、職務角色等等。如果說良好的資料整理習慣是每一家企業都應該落實的重要原則，現在有了這種會將敏感資料當成訓練資料的AI引擎，企業更應該將資料確實整理乾淨。

‧雖然在產生低階程式碼時看到了Codex的能力極限，但它還是能用來幫忙爬梳、解析和處理資料與程式碼。它能理解現有的程式碼，也可用於二進位內容解析。它能判斷某一段二進位程式碼屬於哪一個二進位程式庫（不論是Linux和Windows平台）。此外，Codex也可成功產生爬梳或分析網頁的程式碼，這些都有助於學習中的駭客更快培養自己的技能。

‧不過，Codex天生的非確定性，讓它無法擔當全自動產生程式碼的工作。因為，輸入兩次相同或類似的要求，卻可能得到不同的結果。正因如此，在許多類型的專案中（不論是企業的專案或駭客的專案），過濾和修正它產生的結果，很可能會比使用具備相同效果的傳統工具更花費力氣。 ‧正如本文的討論所說，將Codex用來產生鍵盤側錄程式、網頁注入程式碼、網路釣魚網頁，甚至是修正網路釣魚郵件內容的文法，反倒是一些能為駭客帶來價值並節省時間的特殊運用。

若要從上述的實驗結果中歸納出一個綜合結論，我們傾向於認為Codex是駭客的一把雙面刃。有經驗的駭客或許還是可以從Codex的輔助當中獲得一些價值，但就目前來說，他們當然有更好工具來幫助他們執行一些日常的工作，而且還針對其特殊需求而量身打造。不過，對於新手和正在接受訓練的駭客來說，Codex雖然還是無法完全取代一名正常駭客的程式設計能力，但卻提供了一個不錯的平台來加快他們的學習並提升自身的技術。

＜本文作者：Trend Micro Research 趨勢科技威脅研究中心/本文出自趨勢科技資安部落格，是由趨勢科技資安威脅研究員、研發人員及資安專家全年無休協力合作，發掘消費者及商業經營所面臨層出不窮的資安威脅，進行研究分析、分享觀點並提出建議。＞