多年來IT被要求同時營運和將基礎架構現代化，不論為了速度及敏捷性採用雲，或遵循更謹慎的現代化途徑，過去十年裡，IT可能已面對重大改變，如今則面臨生成式AI帶來的巨變。
隨著內部使用者使用公開可取得的解決方案，集中式安全管控需求顯得更加迫切。目前仍處於生成式AI初期階段，如何將其成功導入企業、同時有效防範和因應相關風險，仍是進行中的工作。當IT為企業解決挑戰時，也不應錯過此機會，生成式AI具有改造IT的潛力，例如讓團隊成員能使用自然語言提示查詢資料，或輕鬆產生直接領域專業知識外的程式碼，將可能簡化並加速IT運作，降低進入多種現代實務的門檻。
以DevOps為例，過去常仰賴程式碼片段執行日常任務，透過生成式AI則不需網路搜尋正確程式碼，就能依具體需求產生程式碼，且通常更快、品質更高；文件記錄亦如此，無需瀏覽網站，透過提示聊天機器人即可準確找到內容。以上案例雖無法保證取得的資訊合適或無誤，但網路搜尋也同樣無法。若能減少取得合適解決方案的時間或精力，則可見生成式AI的好處。創造解決方案所需的時間，如今則能用來測試該解決方案和檢視程式碼。
基礎架構即程式碼（Infrastructure-as-code）已讓資料中心實現一定程度的自動化，這在十幾年前是無法想像的。只要找到合適的指令碼，進入生成式AI，即可取得通用基礎架構指令碼，且能大規模傳送至伺服器，降低管理IT環境的門檻。
生成式AI不會涵蓋各個使用案例，也並非零挑戰與風險。以公開資料進行訓練的生成式AI認知有限，雖然像ChatGPT此類工具精通於公開可取得的開發人員資料，也仍未能涵蓋每個使用者情境或邊緣案例。對於生成式AI的準確度及使用敏感或專有資料提示的整體風險等方面也仍有疑慮。Harris Poll指出，51%受訪者表示最關心生成式AI的品質與管控，49%受訪者則表示最關心安全與資安風險。
基於這些原因，許多企業不僅採用公開可取得的生成式AI解決方案，且正在建立自己的基礎模型，或採用現有模型並使用專有資料訓練模型。此做法讓企業可以根據自己的專有資料訓練模型，取得更縝密的結果，同時降低資安或IP洩漏風險。企業更能控制變數，提供內部客戶客製化且有用的模型，提升資安與智慧財產權保護協助升級整體防線。
圍繞生成式AI的討論是多年來談論雲及IT現代化的自然發展，已經採用雲及本地自動化的企業，將能比預期更快的速度整合生成式AI。若企業具備標準化的雲及自動化流程，或許僅需一個API需求即能快速採用生成式AI。