受惠於技術與運算力的大幅推進，人工智慧（AI）不僅朝向融合動態即時情境發展、大幅提升可用性，同時也變得更透明與自動化。而且在AI加速模組、處理器以及晶片運算能力的提升之下，人工智慧也從雲端拓展到邊緣，隨著終端裝置的AI能力顯著躍進，使用者體驗也更多元且直覺。而這些同時也帶動全球人工智慧市場蓬勃發展，根據IDC調查，全球人工智慧市場收入（包含軟體、硬體與服務），在今年（2020年）將達到1,565億美元，而在最新的全球人工智慧追蹤半年報（Worldwide Semiannual Artificial Intelligence Tracker）中，IDC也預估2024年全球人工智慧市場收入將超過3,000億美元。
三面向驅動市場增長
IDC研究經理蔡宜秀觀察，從基礎架構角度看人工智慧市場，未來增長動能將來自於三個方向，一是循著DevOps發展延伸，CI/CD將與AI及RPA整合，從開發到服務執行將更自動化。二是AI Enabled的應用程式會由產業領域知識驅動，舉例而言，過去徵才面試過程中的評估測試，諸如個性、空間能力、語言、智力等等能力測驗多半較死板被動，沒有辦法因應個別企業的狀況客製化，但是不少國內外新創已開發出GBA（Game-based Assessments）遊戲導向的面試評估，裡面內含了AI與遊戲的成份，能夠依照每個產業、職缺的不同人格特質設計，快速地判斷玩遊戲的人是否適合，因而能更加符合企業需求。
第三則是應用架構將走向混合雲。她提到，人工智慧可分為四個階段，從資料收集、處理到洞察，最後是將訓練結果回傳到前端，與使用者互動並取得即時回應。在這四個階段中，資料收集極有可能是在公有雲環境中，例如智慧音箱助理Alexa或是各大銀行推動的智能投資機器人都可能處於公有雲或混合雲的環境，但是到了資料匯整分析的時候，則比較會出現在私有雲環境中，這其中也包含了AWS Outposts或是Azure Stack等不同實踐的方式，「換言之，企業的混合雲架構將變得更加複雜且多元。」
勿陷技術錯誤思維 精準度不是全部
即使企業將人工智慧視為數位轉型的重要策略，對AI投資也不斷攀升，但並非每一次AI專案推動都能成功。蔡宜秀分析，可能的原因包含了心態不正確／對AI有過多預期、範圍不清楚、KPI沒有正確擬定、人才欠缺，以及AI開發與維運由不同團隊負責有關。
她以某紡織業者為例進行說明。該企業過往在進料檢測時多仰賴人力，為了因應缺工以及新蓋廠房的需求，而決定評估導入AI解決方案，利用影像來判斷布匹有無污點、污點的大小與密集度，然後要視情況將布料放到不同的產線進行處理。可是，最後這個專案遲遲無法結案，原因便是該業者認為，既然採用了AI技術，準確率應該要很高，甚至高過人力的辨識。
這個案例中有幾個錯誤思維，首先是該企業對AI抱有過度的期許，目標不夠明確。如果是為了取代進料辨識，企業的判斷標準應該是進料檢驗時能夠做到多細緻，假設人眼可辨識的污點約莫0.5公釐，那麼對AI的要求應該以此為標準，但是案主卻覺得AI應該要做到能夠辨識0.1公釐的程度，因而導致無法結案。
其次是欠缺一個可以評估的KPI。如果想要用影像辨識來取代進料檢驗人員的工作負擔，KPI應該要設定為在一定時間內，可辨識多少匹布或多少污點。「IDC觀察到，不少台灣企業認為，只要有AI就能萬事搞定。而且有不少企業會落入技術的錯誤思維，所以永遠都在追求AI的精準度，認為應該要達到95%、96%甚或是99%，但是KPI不應該用精準度來設定，反而應與作業流程或痛點整合，而不是技術導向的KPI。」
至於人才方面，過往國內缺乏AI語言、演算法或是模型建立等相關人才，近幾年隨著台灣人工智慧學校以及各大法人機構都有相關的課程推出後，人才的需求主要是在如何將業務痛點轉換成AI可以解決的方案，像是系統分析師與系統設計師這類的人才會比較缺乏。
IDC研究經理蔡宜秀指出，從基礎架構角度來看，未來AI將會循著DevOps發展延伸，CI/CD將與AI及RPA整合，並且更產業導向，而且朝向混合雲架構發展。
「最後一個挑戰則是與上述提到的混合雲架構有關。」蔡宜秀提到，DevOps已成趨勢，但開發與維運人員往往不是同一批人，許多開發人員為了讓服務快速交付，可能會選擇前端運行在公有雲環境，而後端則是企業私有雲環境，但是卻沒有思考到資料與系統整合問題，因而導致系統之間的資料交換與安全性成為一大挑戰。舉例來說，資料收集、標註、建模、測試、優化，每一個流程都是獨立的環節，而且極有可能是分散在企業內部或外部不同的環境中進行，如何做好無縫串聯整合是現今企業普遍會面臨到的課題，「因為技術會不斷演進，無論是硬體層、架構層以及軟體層技術都在不斷發展與改變，即使同樣都可打造出混合雲的架構，AWS Outposts與Azure Stack作法也不同，企業必須以宏觀的概念看待所有系統的串接。」
她特別強調，許多人都直覺地認為AI如果運行在雲端環境，應該可以具備很好的擴充彈性，而且可以很靈活。但是這個前提是，只限於同一朵公有雲，如果提供給使用者的服務採用了多個雲服務，而且是跨多個不同公有雲相互串接，該如何平衡地使用這些資源，以確保成本效益，也須納入考量。
應用考量影響技術架構評估
為了轉型創新，不少企業積極尋找可能的AI應用場景，並且加以落地。許多方案供應商也紛紛提供解決方案來助力企業打造一個合適的基礎架構環境，如今企業除了AI基礎架構解決方案之外，雲端服務供應商也紛紛推出AI即服務（AIaaS）來降低企業部署負擔。
蔡宜秀指出，若是涉及機敏資料，企業多半會選擇建置AI的基礎架構，以確保資料是由企業自行掌控，不過AIOps例外，自動化的維修服務需要不斷辨識以及追蹤異常，通常不會也不需要連回核心環境，反而適合採用AIaaS。但若從服務開發流程來看，測試環境、雙軌環境或是建立DR，就會善用雲端服務。「當然，不同產業評估衡量的因素不同，最終採用的方法也不同，例如金融、醫療甚或是電信因為有法遵課題需要根留台灣，但是零售業則更關心Time to Market，這些都會影響到企業對技術、架構的評估。」