根據IBM商業價值研究院在2023年對企業高階主管所做的調查顯示，企業對生成式AI的投資規模在這兩年間將成長四倍。然而這份報告也指出，多數企業仍處於單點式的AI試行階段，未能在企業內部複製與擴散。
企業推動規模化AI應用通常面臨四大挑戰：
1.缺乏關鍵場景與AI管理架構：AI應用成功的關鍵在於精準評估、辨識並迅速建置及管理商業價值最高的企業場景。企業應策略性制定評估指標，優先導入關鍵AI場景，並採用企業級管理框架或平台，加速推廣為業務增效的AI應用。
2.對AI產出心存疑慮：八成的受訪者在前述的訪談裡表示對生成式AI的產出有疑慮，認為其結果可能帶有偏見或歧視、可解釋性不足；尤其當國內外各項AI應用法規陸續出台，漸趨完備，嚴謹度不足的AI應用，將造成更多治理風險。但若因此放棄應用生成式AI，無疑為「因噎廢食」。企業應積極思考導入可無縫融入日常企業營運流程的AI治理，並搭配自動化工具輔助，以達合度治理，並據此同步提升企業營運AI能力。
3.難以兼顧AI應用效果、企業隱私與資安防護：企業通常傾向使用第三方開源模型，但對於資料上雲的安全性心存疑慮。IBM 建議企業「雲地」混合建置，採用易於控管AI取用機敏資料的技術，如檢索增強生成（RAG）、內容分類過濾等，並統一納管於AI管理應用平台，則可在保密企業資料的同時，享受大語言模型帶來的友好體驗。
4.人才與組織重塑面臨考驗：生成式AI重新定義了每位員工的職責與職能。在組織轉型與變革管理的議題面前，企業負有引導員工採行善用AI擴增工作能力的人機協作模式。
成功推動AI應用規模化的企業，也提前取得數位轉型領導地位的「紅利」。據新加坡星展銀行2023年年報指出，其企業內部有超過350個AI應用案例，是業界公認成功落實「由AI驅動轉型」的案例。星展銀行制定了完整的AI發展藍圖，優先讓關鍵應用場景落地；同時搭配AI應用管理平台，幫助團隊敏捷開發、加速擴展AI場景；並針對AI人才培育投注大量企業資源，成立由創新驅動的轉型專責組織，將AI策略與各業務單位的發展目標深度連結，自上而下、全面且高效地啟動與推動AI轉型。
儘管現今的AI工具與各種應用「遍地開花」，但未必皆能擴散為一片森林。企業可借鏡領先企業案例與導入經驗，搭配進行AI治理，逐步讓可信任的AI應用落地，駕馭規模化AI應用浪潮。
＜本文作者：謝明志現為台灣IBM諮詢首席資料科學家＞