這牽涉軟體開發生命週期(SDLC)、底層硬體運算資源、資料權限邊界與模型生命週期管理,組織必須先釐清資料品質、流程邏輯與合規要求,才能建立可長期維運的AI應用環境。
叡揚資訊副總經理符文藻表示,企業導入AI時,常見情境是高階主管提出提升生產力的方向,執行團隊卻難以判斷AI應該放進哪一段作業流程。他認為,較可行的做法,是先建立內部認知與訓練,再由業務單位盤點痛點,挑選成功率較高的題目進行概念驗證。以公文系統為例,早期電子化先把紙本公文流轉流程記錄下來,待流程化成熟後,再導入內容數位化、線上簽核、不可否認性與防竄改等機制。AI化同樣建立在流程化與數位化基礎之上,若缺乏可用資料與明確作業邊界,AI很難產生可驗證的企業效益。
流程治理成為AI落地起點
企業面對AI應用時,首先需要辨識不同技術型態的適用範圍。符文藻指出,生成式AI較適合處理非結構化資料,例如文件理解、摘要生成與自然語言互動;非生成式AI則適合可重現、可驗證、準確率可控的任務,例如自動分類或特定辨識流程。對重視責任歸屬的企業與政府機關而言,部分場景採用非生成式AI更容易落地,因為錯誤通常可以重現,也較容易分析原因與改善。若系統已知模型準確率停留在特定水準,應用程式即可加入人工覆核、例外處理或補強機制,使AI成為可管理流程的一環。
目前企業AI應用大致可分為內部問答平台、內建於既有系統的AI功能,以及可參與任務執行的數位員工或代理型AI。符文藻分享,在某政府機關專案中,使用者上傳資料後,系統幕後透過生成式AI讀取內容,並串接多個系統完成資料比對、編號與欄位產出,再交由人員檢核。過去資深人員可能需要1小時完成,不熟悉業務者可能需要2小時的案件,導入後約10至15分鐘即可完成。這類系統表面上未必看得見AI,實際上已經把AI放進工作流程,成為作業效率改善的一部分。
當AI進入企業知識管理場景,核心難題會落在資料品質、版本控管、權限切分與可追溯性。符文藻表示,企業知識庫中的同一份文件可能存在多個版本,若版本控管不足,大型語言模型(LLM)取得舊版內容後,輸出結果自然可能失準。在權限控管方面,不同部門、職級與角色可存取的資料皆不相同,AI問答系統也必須遵守同樣的授權邏輯。叡揚在知識管理AI應用中,主要透過檢索增強生成(RAG)結合權限判斷,使系統在檢索階段即依使用者授權範圍取得資料,避免AI回應越過既有資料邊界。
資料治理之外,算力與模型管理也正成為正式上線門檻。逸盈科技雲端應用整合部資深技術顧問鄭兆良表示,台灣企業目前面臨IT成本壓力與架構複雜度雙重挑戰。許多組織已經累積實體伺服器、虛擬化平台、Kubernetes叢集與邊緣場域設備,新一波AI需求又帶來圖形處理器(GPU)、模型、推論引擎與權限控管等維運項目。若各團隊分別採購AI伺服器、安裝模型與推論服務,初期能快速測試,長期卻容易形成算力閒置、模型版本混亂、金鑰分散與成本難以估算等問題。
鄭兆良指出,企業AI算力很少一開始就以標準化平台出現。有些客戶先購買少量工作站或AI伺服器,自行安裝推論服務與模型;當使用人數增加、模型種類變多,重新安裝、更新、監控與權限分配都會成為負擔。因此,AI基礎架構需要將不同型態的GPU資源整理為企業可調度的資源池,讓AI工程師或應用團隊透過平台取得所需算力、模型與API服務,同時讓IT部門掌握資源使用率、API使用統計與Token用量。
算力池化推動模型生命週期管理
逸盈科技雲端應用整合部工程師王軍凱表示,模型檔案若分散在不同部門、伺服器或工作站,容易出現版本不一致、來源無法追溯、授權狀態不清,以及同一模型被重複下載與維護等問題。因此,企業需要模型登錄與模型目錄,集中納管模型,並透過版本、部署範圍與環境標記,區分測試環境與正式環境所使用的模型。企業也需要先確認模型來源是否合法合規,是否適合放入內部環境,再由IT或平台管理者上傳與發布。後續部署若能記錄使用哪一個模型版本、部署到哪一個環境,以及由誰執行相關操作,便能更貼近法遵、品質追溯與營運責任要求。
當AI進一步進入軟體開發生命週期,治理議題會更加明確。台灣IBM數據與AI技術總監李維倫表示,企業軟體開發的瓶頸通常出現在需求規劃、架構設計、測試驗證、部署、維運與政策稽核等環節。若AI只能扮演開發者的輔助工具,企業仍須仰賴大量人工串接流程,並在後段補做合規檢查與安全修正。因此,AI驅動的軟體交付與治理平台,需要將代理型工作流程(Agentic Workflow)、多代理協作與內建治理機制納入SDLC,使AI參與計畫、設計、研發、測試、部署與維運。
李維倫說明,這類平台可依架構師、開發者、維運人員等角色配置任務,並由代理型工作流程拆解使用者需求,再安排不同AI代理處理測試、文件整理、程式現代化與流程銜接。治理能力也必須橫向嵌入,包含提示詞正規化、AI紅隊測試與機敏資料過濾等防護設計。就現況來看,企業AI導入過程中,流程盤點決定AI能否進入正確場景,資料權限影響輸出可信度,算力池化與模型目錄則支撐正式上線後的維運責任。對IT與資安決策者而言,AI落地的核心任務,是把模型能力納入既有治理體系,使其能被追蹤、被審核,也能持續支援業務流程。