生成式AI已深入軟體開發流程，從需求、程式生成到測試全面帶動軟體工程典範轉移。隨著產出大幅提升，瓶頸轉向驗證與治理，可信任AI的關鍵也從模型能力轉為流程可控性。本文從實務經驗出發，探討軟體業者如何建立可審查的開發流程，並提出企業選擇AI產品時應關注的治理與追溯能力。
生成式AI快速進入企業應用後，「可信任AI」已成為無法迴避的重要議題，涵蓋模型可靠性、資料安全、隱私保護與治理機制等面向。現階段多數討論皆集中在產品對外表現上，例如回應正確性、可解釋性或資料偏見風險等；對以產品研發為核心的軟體業者而言，可信任的關鍵則是出現在更源頭的軟體開發流程。
<p> 當AI導入開發實務，最先浮現的挑戰是產出速度大幅提升，文件與程式碼數量快速增加，但驗證仍仰賴人力時，瓶頸會更集中。因此，軟體開發流程開始導入多個AI角色分工，甚至讓不同任務的AI代理互相交換資訊，銜接開發與測試。當「AI對AI」的互動逐步形成，人員便更集中於關鍵決策與最終把關。這種演進確實提升效率，也放大錯誤在多個步驟累積的風險，使可信任AI治理重心轉向整體流程可控性。
<p> 另一個挑戰在於AI對既有資訊系統脈絡的掌握。若AI無法理解既有架構、資料結構與業務邏輯，即使程式語法正確，也可能偏離原始需求。實務上常見文件鬆散冗長、前後不一致，甚至關鍵知識只存在開發人員經驗中，使AI難以產出符合預期的成果。為改善這項問題，軟體業者開始整理內部知識，包括程式碼庫結構、API文件、資料模型與測試案例，將其轉化為AI可理解的工程資產。這些資料已不單供人閱讀，也成為AI持續參與開發作業的重要基礎，進一步影響效率與品質。
<p> 以我們的經驗來看，使用AI進行軟體開發，牽動的是整體流程調整。對已累積大量既有軟體資產的業者而言，相較重新打造全新產品，更需要審慎推進。可先讓AI協助整理設計文件、程式碼註解與自動測試案例，同時保留人工審查與既有控管機制，確保AI產出的正確性。實際運作也顯示，文件與治理規範愈清楚，AI表現愈穩定；若基礎資料不足，成效就會受限。
<p> 回到可信任AI的整體脈絡，企業選擇AI產品與服務時，應觀察供應商是否具備完整開發與測試流程，能否說明AI在系統中的使用方式與控管機制，並具備問題追蹤與修正能力。當AI持續深入企業核心系統，可信任性將具體體現在開發流程與軟體工程實踐之中。對軟體業者而言，推動這類流程變革，將成為下一階段競爭力關鍵。
<p> ＜本文作者：廖長健現為網擎資訊執行長＞