最近參加的每一場產業會議，討論的重點幾乎都圍繞人工智慧（AI）。顯然所有的企業無不爭先擁抱AI熱潮。不過在熱潮之後，開始聽到成功應用AI的質疑。蘭德（RAND）公司最近的一份報告指出，一些研究顯示80%的AI專案預計會失敗。
因為許多企業在從前導計畫到全面推行和創造價值的過程中面臨諸多挑戰。根據調研機構Gartner公布的調查報告，到2025年底，至少30%的生成式AI專案將在概念驗證（POC）後被放棄。
為什麼AI專案仍難以超越POC階段？首先，從GPU算力到AI人才，企業都沒有足夠的資源。因此許多組織轉向公有雲或套用現成的AI模型來滿足其獨特需求。然而，公有雲也有諸多挑戰，首先是在地化問題，如何決定在本地端或雲端託管和擴展AI計畫，仍然是一項重大挑戰。其次，如何挑選合適的供應商，由於技術選項眾多，想要做出明智的選擇其實非常複雜。而且企業還會面臨到司法管轄區控管的挑戰，在本地司法管轄區根據本地／區域法律對專有資料進行控管將帶來合規挑戰。
此外，在基礎架構方面，企業也往往難以在雲原生實務和混合雲策略之間取得平衡。特別是在超級運算策略上，管理基礎架構的訓練和推論需要精心規劃。由於GPU等專用資源的供需不平衡，常導致企業採用成本高昂的預留執行個體（Reserved Instances）模型。此外，許多組織不允許在公有雲處理其高度機密和敏感的資料，特別是許多法規正加速制定中。
如今，企業在複雜的法規政策環境中運作，如GDPR、NIS2 和《歐盟人工智慧法案》。技術加速進步可能使新法規的制定更複雜。如果無法從一開始就建立健全、永續的合規實踐，未來可能面臨重大挑戰。
為了確保AI的長期成功，必須採取以下三個關鍵措施：
˙打造強大的AI基礎：建立全面的GenAI政策架構。
˙有效的風險管理創新：執行管理結構來檢視AI使用案例、識別風險、提供使用準則並促進技術試驗。了解數據、技術和目的，並監督和降低風險。 ˙賦能員工：讓員工具備必要的知識和技能，以有效且合乎道德地使用AI。
AI的未來將採取不同的架構形式。對於擁有高度敏感資料或特定客製化要求的技術性組織來說，AI將是私有的。由組織的私有資料驅動，處理私有工作負載的私有雲將確保組織擁有更佳的控管力。但組織仍同樣需要公有雲，以管理突然增加的巨量資料和工作負載，或管理較低風險的使用案例。法規政策、地緣政治和風險計算將推動使用案例走向混合模式，其中，私有雲將成為推動真正創新和帶來業務價值所需的關鍵要素。
＜本文作者：陳學智現為Broadcom軟體事業群台灣暨香港董事總經理＞