由於全球產業對生成式AI(Gen AI)、大語言模型(LLM)與數位轉型需求的快速成長,讓今(2024)年的COMPUTEX成為全球科技業關注焦點,更讓台灣資通訊產業成為各國媒體報導重要議題。
!此為分頁標誌前台不顯示!
神通資訊董事長蘇亮表示,AI應該無所不在,但是真正想要去做,好像甚麼都不對,缺少了一點東西。過去在推動各類AI應用中,發現有兩點是很重要的。第一個是要有足夠的數據庫,這個數據不完全是一般的資料,包括從物聯網、從大數據雲端、從開放資料等等取得的數據,所以神通要去做的,就是幫業者打造一個資訊共通平台,有了平台才有辦法進行用數據進行AI分析。
蘇亮指出,有了共通平台之後,又發現另外一個問題,就是AI的應用都是跨領域,有些還跨多個領域,所以需要透過多領域的協作,搭配上平台的創新,才有辦法創造出新的AI應用。現在有很多AI工具,對於工科的人來說,或許不難使用,但是碰到跨領域的情況,使用上還是有困難,所以神通又去打造了一個不需要撰寫程式的No code工具軟體,各行各業的人透過No Code的工具軟體,搭配共通平台上面的數據,就可以開發出更多創新應用,而且可以落地應用。
談到智慧城市,對政府來說,最重要的就是怎麼樣做的事可以讓市民有感,而最容易做的方式就是UI的改善,而利用AI做UI的設計、效率改善與市民安全的應用,都可以開發出來。也就是說,AI是百花齊放,只要想得到,應該都可以做到。
針對台灣AI人才的養成,蘇亮提到1970年代Intel微處理器的推出,透過教育的推廣,讓大家知道微處理器能怎麼用,但是主要培養的會是專業領域人才。現在在AI人才的培養上,由於是跨領域,所以很多人並不需要知道AI,只要有創新的點子、適合的工具就可以做到,跟過去不太一樣。至於要如何落實AI人才的培育,目前神通資訊內部有做部分規劃,也提供AI實驗室給高中,希望透過高中學生的培養,讓他們有創新的理念,將來可以在各行各業都能夠發光發熱。
台智雲策略長李立國指出,生成式AI帶動很多產業想像的空間,包括金融業、如何透過大語言模型自動化櫃台前端業務,處理to B或To C業務,法金服務的金融分析。在醫療業部分,一個是透過傳統的與音轉文字(Speech to Text),可以在看診的時候把醫生說明轉換成文字,並且透過大語言模型做摘要。摘要內容甚至可以分專科進行處理;長期來說,很多大量的醫療資料來說,透過生成式AI做Insight探討與分析。
其實台灣最多在製造業導入生成式AI,包括透過大語言模型分析資料,下指令,甚至調度傳統ML模型,也在生產的參數與品保預測獲得不錯的成果。針對繁中環境,台智雲也將Llama3模型增加繁中訓練進行fine tune,也在製造業做了不少專業領域的fine tune,包括70B的模型,或8B的模型,fine tune給企業內部使用,解決特定任務,去做生產製程預測。
李立國認為,從商用角度,AI對企業的影響會越來越大,GPU算力也會越來越便宜,所以企業是可以擁有AI企業腦,不僅懂得繁中資料,而且懂得企業內部垂直場域資料。所以對於企業來說,如果想要建立自己的AI企業腦,要回過頭來看看企業所擁有的資料集,而且要是有用的資料,再加上盤點算力與可用模型,設定解決問題,透過外部資服團隊給的建議,才有辦法在企業內部導入AI,千萬不能為了AI而AI。
李立國也提到,台智雲已經幫不少企業在內部落地70B的模型,包括金融業、製造業、醫療業、IC設計、重工領域等等,而且獲得不錯效果。針對Meta最新推出的Llama 3.1,包括405B模型,以及更新版的70B模型與8B模型。由於405B模型對標GPT-4o,看起來是有機會可以落地。