人工智慧應用已經從單一技術走向了多元技術的應用，AI代理人也具有多種技術集合的概念。其涵蓋了機器學習（ML）、深度學習（DL）、增強式學習（RL）、自然語言處理以及電腦視覺等五種核心技術。
近年來，隨著生成式AI（GenAI）技術越趨成熟，企業紛紛加速應用腳步，不論是在金融、醫療、教育甚至電商、製造業，均可見透過大型語言模型（LLM）來生成文字、圖像或是影音，藉以提高生產力、改善客戶服務體驗或是增加創造力的應用案例。然而，這只是AI運用的一小步，在下個階段，AI代理人（AI Agent）將可望帶來更大的變革，徹底改變工作模式或流程。
IDC資深研究經理蔡宜秀指出，AI已打破了過往對IT技術演進的既定印象，每五年、十年才迎來一次技術突破性進展的年代早已不復返了，光是2022年11月至今，大型語言模型已發展到大型多模態模型（LMM），並且成為企業應用的主流。緊跟著具有自主能力的AI代理人、代理式AI（Agentic AI）也在2024年第四季開始受到廣泛的矚目，如今每隔一到兩年就可能進入新的AI世代，如果依此來推算，2025年將是將是AI助理（AI Assistants）往AI代理人發展兵家必爭的關鍵年。
從AI Agent到Agentic AI
依據IDC的定義，AI代理人是以LLM為核心的自主軟體服務，其能感知與理解環境，並且藉此下達最佳決策、制定行動且執行，同時還會透過持續學習改善成效。
「人工智慧應用已經從單一技術走向了多元技術的應用，AI代理人也具有多種技術集合的概念。」她提到，就像大型多模態模型運用了自然語言處理（NLP）、生成式AI（GenAI）以及電腦視覺（CV）等技術來處理和解釋企業內部多種類型的資料，並且生成文字、影像與語音，AI Agent也涵蓋機器學習（ML）、深度學習（DL）、增強式學習（RL）、自然語言處理以及電腦視覺等五種技術，來做到感知環境、下達決策、執行行動，且透過持續學習來改善成效。
「當提到自主的軟體服務時，很容易就會聯想到機器人流程自動化（RPA），其實兩者並不相同。」蔡宜秀解釋RPA需要事先設定好自動化的腳本或是流程才能完成特定任務，AI代理人強調的是不需要特別設定好規則，只要基於以前的資訊再利用增強式學習，便可以在即時的環境中互動，並且優化行動。這其中的關鍵，就在於持續的學習且可以整合多元的工具來感知或行動。
一旦從單一的AI代理人走向多個AI代理人的協作，就會發展到代理式AI，而且更像是為了因應某種情境的需要而把各種AI代理人串接起來的服務。「以人臉辨識門禁系統為例，人臉辨識後可以進門是一個AI Agent，人臉辨識後無法進門則是另一個AI Agent，若再結合後端系統，一旦無法進入就要通知單位同仁來處理或維修，這時就會演進到Agentic AI。」她提到，也因為如此，Agentic AI的挑戰就會在於管理與協調各個AI Agent、確保各個AI Agent的輸出品質一致，以及資源有效性應用，尤其在運算資源方面。
多項挑戰亟待克服 自農曆春節DeepSeek引發轟動後，知名華裔美籍科學家李飛飛也緊接著宣布以低於50美元雲端運算成本，成功訓練出名為「s1」的人工智慧推理模型，一時之間，低成本AI訓練模型成為企業關注的焦點。
蔡宜秀認為，低成本開源的AI應用服務已成趨勢，面對代理式AI，企業也會在意其在運算資源以及永續性的表現。關鍵就在於，代理式AI可能串接了無數個AI代理人來提供服務。倘若單一AI代理人需要破億的參數量，那麼多個AI代理人加總起來就不會是小數目，當代理式AI這個大傘下掛滿AI代理人時，就不難想像要把它提起會有多重，換言之，就是需要更多的運算資源，「這也會成為未來備受關注的議題。」
不過，在此之前，企業還是優先得面對AI代理人的挑戰。由於AI代理人是以LLM為核心的自主軟體服務，因此LLM會面臨到包含幻覺、資料安全與隱私安全課題，AI代理人也需要面對。此外，AI代理人技術框架目前還在百家爭鳴，如何建好框架、如何互通也都需要考慮。對於企業而言，培育人才以掌握核心技術，也依然會一項課題。
需即時反應的場景 更能彰顯效益
蔡宜秀強調，AI代理人與代理式AI並不會取代AI助理，目前這三者會依據不同的工作負載而會有不同的運用需求。以現階段來看，需要OT與IT跨系統整合且持續優化的場景，特別是針對資料敏感（Data Sensitive）或是情境敏感（Situation Sensitive）的工作負載，決策時間很短，需要立刻下達最佳化決策的場景較適合AI代理人與代理式AI應用。
舉例而言，台灣已有企業將其應用在智慧化採購上，由於商品原物料價格變化很快，上午才收集的售價資料到了下午就有變化，因此過去透過AI助理協助收集各個平台的資料並將其彙整已無法因應需求，企業正在思考如何運用區塊鏈的智慧合約來進行下單的動作。此外，智慧運輸或是能源採購也是適合的應用場景，以能源採購為例，不論是電力、風力，抑或是太陽能，高低峰單價落差很大，往往需要即時反應，這時AI代理人就可以發揮出其效益。
「其他像是Amazon近期打造首款自主移動機器人Proteus，也是AI代理人的應用案例之一。」蔡宜秀接續說明，由於Proteus具備很多感測器可協助偵測與追蹤物件，這些資料收集後會自動對應到環境，讓機器人自動辨識、避讓，形成所謂的安全氣泡（Safety Bubble），因此當員工太靠近時，Proteus就會自動減速或停止，或是遇到擁擠的區域還會自動避開任何可能導致觸發安全氣泡的情況，換言之，Proteus可以自主地在一個空間裡自由的活動，這與過去的無人搬運車只能設定好固定路線，遇到狀況最多就只能停下來的狀況有很明顯的差異，這個案例也彰顯出AI代理人「自主」的特性。