創投公司Menlo Ventures在去年底針對美國與歐洲企業450多位高階主管進行訪談，以了解當前生成式人工智慧的採用情況。在這份已發表的《企業中的生成式AI現狀》中提到，雖然生成式AI現今處於趨勢的浪頭上，但實際的投資僅有25億美元，遠低於企業對傳統人工智慧的700億美元以及對雲端軟體的4,000億美元投資預算。Menlo Ventures認為，儘管消費者迅速而熱情地接受了生成式AI，但預計企業的採用速度會較慢，就像是早期的雲端採用一樣。
無獨有偶，調研機構Gartner也預測，到了2026年，將有超過80%的企業將使用生成式AI的API或是模型，或在生產環境部署已啟用GenAI的應用程式，相較之下2023年這個比率還不到5%。
AI 133 Lab推升產業轉型力道
資策會軟體院資深技術總監何文楨觀察，面對生成式AI浪潮，企業普遍都感受到一股壓力感，彷彿不做些什麼就會落後。「現在就有點像處於冷兵器與熱兵器交接過渡的時代，若是無法跟上，等於拿著刀劍去對抗洋槍大炮，競爭力當然會因此而喪失。但企業現今面臨的挑戰是明知道生成式AI可以為企業帶來好處，卻不知道該如何著手，因而產生了非常嚴重的焦慮感。」
對此，資策會軟體院近期也主導成立AI 133 Lab，目的即是希望能協助企業克服這一難題，藉由結合資策會各部門能量、集結政策與學研夥伴產出前瞻研究指南，同時也與國際、國內軟體業者進行技術合作與支援，以期能提供企業指引、創新工作坊、示範案例、實作指引、人才培訓、技術工具等六大服務，推升產業在這波生成式AI浪潮下數位轉型的力道。
他提到，其實運用AI技術藉以加速數位轉型並不是頭一遭，但以往有許多企業的數位轉型並不是很成功，原因即在於企業的資料都是散落在各部門，並沒有經過系統性的整理，再加上以前的觀念是單獨成立一個數位轉型的部門，可是整個數位轉型與公司的營運策略、企業的單位組織都沒有相關，純粹只是單一部門的推動。如果能夠改變組織把所有的資料匯集到一起，效率就會明顯增加。而生成式AI的導入其實有助於企業梳理與匯總資料。
何文楨進一步說明，企業之所以感到焦慮， 是因為發現對手或其他企業沒花多少時間就可以做出生成式AI的運用。其實小型的概念驗證並不需要AI工程師，只要把企業內部的數據整理、收集起來，透過類似提示工程的工具，就可以立即使用，企業將能因此而感受到傳統方法與生成式AI的明顯差異。一旦體驗到生成式AI對員工效率或流程改進確有幫助，便不會在要不要投資、或該不該導入以改善流程等過程中如此煩惱。
因此，AI 133 Lab想要推展的理念是讓概念驗證先行。他舉例，若想把生成式AI應用在客戶服務，企業只需要先準備以往的客服紀錄以及客戶會詢問的產品相關問題資料，透過樣版化（Template）的提示工程，把這些資料變成是企業大腦，如此，回答詢問的時候也只會限定在這些文件範圍內容。藉此來驗證這種人機介面的改進方式是否有幫助，如果有幫助，再導入更多企業環境，與ERP等系統整合。
人機介面貼近一般互動引領變革
生成式AI具有多項優勢，例如可以對文件進行分析提高效率、增加新的業務營收、提升品質以及解決技能短缺問題等等。何文楨認為，生成式AI其實也算是深度學習的一個分支，只是以往的深度學習是專門用於辨識，比較像是分析型的人工智慧（Analytical AI），但是生成式AI則是類似神經網路的延伸，可以餵入較少量的資料，但是創造出更多的內容。
「但是生成式AI最重要的革新其實在於人機介面，」他提到，以往要透過自然語言進行對話前，要先收集語料、訓練模型、分詞、斷詞、建立Q&A問答等等，但是生成式AI把這些技術全都隱藏到背後，這也是為何有這麼多人都對ChatGPT產生興趣，因為它的互動非常貼近一般人，這種人機介面的改變將對生產力以及企業帶來諸多變革。在一般的辦公室場景中，最常被想到的應用場景就是客服，不需要再有人設定Q&A問答的題目，這是人機介面最大的改變。「此外，我們還觀察到知識管理系統（KM）也將因此而有所變革，以前是透過搜尋來查找資料，現在直接用語音來詢問，這種互動方式的改變讓大家發揮了很多想像，也是生成式AI主要的突破點。」
為了讓企業快速地體驗，AI 133 Lab建構了一個實體研究室，可以讓企業帶著資料在這個研究室中實地感受生成式AI可帶來的效益。另外也針對不同產業投入多項生成式AI核心技術與應用，例如在智慧醫療領域，利用適當的提示工程可由病歷報告自動產生病灶分類標記與理由，大幅降低醫師標記成本，且讓報告能更有效被利用。考量資料機敏性與安全，AI 133 Lab也研發了開源AI生成服務建置工具，協助有AI生成服務建置需求的企業，快速建置專屬領域的GPT應用服務。
打造自主的BYOG生成式AI走進百工百業
一如Meta創辦人暨執行長馬克·祖克柏（Mark Zuckerberg）在Meta Connect 2023中提到客製化AI的重要性，何文楨也認為，企業要建立自主的生成式AI能力，才能在這場變革中佔據先機。「生成式AI的發展趨勢其實很像資訊應用時代的演化史，從大型主機到個人電腦時代，而後在各式端點，如手機、自駕車、電視等等現今都已具備可觀的算力，生成式AI的發展也從一開始強調的超過百億參數的大語言模型，到後來百模齊放，在Hugging Face上每周都有100個模型產出，未來，生成式AI將可望走進百工百業，在各個企業裡面落地開花。」
資策會軟體院資深技術總監何文楨觀察，隨著生成式AI升溫，知識管理系統（KM）也將因此而發生變革。
而AI 133 Lab的目標之一，即是協助企業打造自主的BYOG（Build Your Own GPT），任何一個產業只要發展成熟以後就會走向分眾化、客製化甚至是會員化，未來BYOG也是如此。從基礎大模型開始，往上分化走入「產銷人發財」各種系統，建立一些中級模型及領域應用，例如製造業、醫療業、金融業等。再往上是真正在企業裡面或是個人使用的一些小模型，這種百模齊放的生態應該是未來BYOG的樣貌。
「企業需要建立自己的企業大腦，來鞏固本身的競爭力。這並不是意謂著要跟現在這些國際大廠競爭，而是在他們的基礎之上，讓企業大腦與企業資料進行對話。」他強調，生成式AI打破了AI與人們的技術門檻隔閡，即所謂的AI民主化，隨著AI民主化後，越多人使用自然就會改變這些情境，應用方式的方式也會越來越多。