作者:徐瑋成(資策會MIC產業分析師)
在聯發科與高通的處理器平台支援下,智慧型手機已正式進入AI+手機的新時代。未來這些由AI衍生出的各種應用與軟體服務,將為手機品牌廠帶來更多創造差異化的機會。
為實現生成式AI在手機上的各類應用,並滿足手機直接處理LLM的運算需求,手機晶片算力的演進成為AI手機的發展關鍵。國際兩大行動處理器業者高通與聯發科皆於2023年第四季發表新一代的手機旗艦晶片,如高通Snapdragon 8 Gen 3(下稱SD)與聯發科Dimensity 9300。新一代的旗艦晶片為配合AI手機的問世,皆大幅度提升晶片運算能力,並改變中央處理器(CPU)核心配置。
為配合AI手機問世,兩大業者皆明顯改變CPU核心配置策略,以因應生成式AI可能帶來的高效能運算需求,並滿足安卓陣營手機客戶推出AI手機的發表時程。如2023年末小米發表的旗艦新機Xiaomi 14系列,與vivo的vivo X100系列,以及三星(Samsung)在2024年1月發表的Galaxy S24系列。
除CPU外,圖像處理器(GPU)與神經網絡處理器(NPU)同樣為因應生成式AI演進的關鍵運算單元,尤其NPU的優勢為處理大量運算數據資訊(如AI模型),可達成分工處理,並輔助CPU的運算。NPU的演進與開發為實現LLM在手機終端的運算重點。因應各品牌將陸續推出AI手機,並滿足LLM的運算需求,CPU的配置預期將逐漸朝向增加大核心數量,而NPU的研發將為處理器業者打出差異化與滿足AI運算的角力戰場。
現行多數在智慧型手機使用的生成式AI應用,仍透過雲端處理LLM運算需求,再透過網路回傳生成的結果,如在手機上使用ChatGPT。因ChatGPT所使用的模型參數量數仍超過1,000億,智慧型手機受限體積空間,故其晶片設計有其極限,在智慧型手機晶片運算能力受限下,無法直接在手機上直接處理大規模參數的LLM運算需求(以本地算力,非透過雲端)。
依據高通與聯發科兩大業者其最新旗艦晶片的規格,SD 8 Gen 3可在手機上直接運算模型參數達100億的LLM,聯發科Dimensity 9300可處理70~130億參數LLM模型。智慧型手機無法直接運行參數過於龐大的LLM,主要為受限晶片算力與記憶體的頻寬與容量限制,主要因行動處理器的處理能量與速度無法與雲端透過伺服器運算比擬。另外,為處理生成式AI運算,手機記憶體在讀取數據上將會佔據大部分的容量,進而壓縮手機其他應用程式運行的結果,較不利整體手機的運算配置,故記憶體容量須達到一定程度始能支援更大規模參數的LLM。
新一代的旗艦晶片基本上為考量生成式AI的應用打造,以高通前一代旗艦晶片SD 8 Gen 2為例,尚能穩定運行10億參數的LLM,故SD 8 Gen 3確實在晶片運算上有明顯的升級。市場上推出的知名LLM皆為大規模參數,如ChatGPT 3.5(1,750億參數)、文心一言(2,600億參數)、Meta Llama 2(700億參數)。LLM若欲在智慧型手機直接運行,可透過知識蒸餾將模型進行壓縮,並使LLM在壓縮下(參數減少)仍可保持不錯的精確度。
過往市場上推出的LLM皆以模型參數較大為起點,在考量使終端裝置能夠直接運行,眾多業者已開始推出不同模型參數的LLM,例如Meta Llama 2為700億參數,透過知識蒸餾方式推出數量參數較小的LLM,如70億參數與130億參數。LLM模型參數縮減至100億規模,依據目前新的旗艦晶片規格,可直接在終端裝置(如手機、筆電等)運行實現生成式AI應用,在邊緣運算的趨勢下,預期百億規模參數的LLM在未來將會逐漸普及化。
自2023年第四季起至今,手機品牌陸續發表AI手機的資訊,包含小米、vivo、OPPO、三星等,各品牌最新的旗艦款手機皆可在手機上直接運行生成式AI。目前AI手機以陸系手機品牌最為積極,包含Xiaomi 14系列為目前全球首波發表的AI手機,步步高體系如vivo X100系列與OPPO Find X7系列皆已正式發表。
過往生成式AI的開發主要以國際軟體大廠為主,包含前述所提的微軟(OpenAI)、百度、Meta、亞馬遜(Amazon)與Google等。在全球迎來AI浪潮,且強化終端裝置運算實現生成式AI成為趨勢下,一線手機品牌已布局生成式AI應用與LLM的開發,以迅速搶占AI手機的市場商機。
陸系品牌在2022~2023年即進行LLM的內部開發,陸續釋出自家LLM相關資訊,如小米的MiLM、vivo的藍心大模型(BlueLM)、OPPO則開發Andes。
各家陸系品牌LLM研發布局與國際軟體大廠相似,開發的LLM型具備不同模型參數規模,以vivo BlueLM為例,最低有10億參數,最高則有1,000億參數規模。考量現行智慧型手機規格的限制,在vivo X100系列部署的模型為採用70億參數的LLM,其他陸系品牌同樣在其旗艦機款部署100億以下規模的LLM,如Xiaomi MiLM為64億,而OPPO Andes為70億。
Google在2023年末發表其Gemini LLM,同樣具有不同規模參數,包含Gemini Ultra、Gemini Pro與Gemini Nano,其中Gemini Ultra參數高達5,400億,預期將部署於雲端使用,而考量在手機上運行,谷歌則將參數較小的Gemini Nano(32.5億參數)部署於2023年上市的旗艦機種Pixel 8 Pro。
三星在2023年即陸續釋出其自家LLM–高斯(Gauss)相關資訊,並將逐步整合至三星旗下產品。依據三星1月的Samsung Galaxy Unpacked發表會,宣布與谷歌合作,成為谷歌的AI生態系合作夥伴,將Gemini Nano部署於最新旗艦機型Galaxy S24系列。新旗艦機種主打Gemini Nano而非Gauss,或許為三星考量Gauss尚未完備,而為先行因應AI新機發表,所採取的營運策略。
Android手機陣營在LLM的開發策略目前趨向一致,為因應AI手機皆開發自家的LLM,並將百億參數規模以下的AI模型部署在旗艦機種,在搶搭AI熱潮下,積極開發與增進AI模型,以求在AI手機市場中保有市場競爭力。
與動作頻頻的Android手機陣營相比,蘋果(Apple)呈現較沉寂的狀態。蘋果目前對自家的LLM開發鮮少有發布公布資訊,而2023年9月發布的新機種iPhone 15系列未針對生成式AI著墨,在AI浪潮下蘋果尚處於追隨者的姿態。
現行蘋果較明確的LLM開發資訊為於2023年末在開源軟體網站GitHub發布其雪貂(Ferret),從蘋果在GitHub公布的內容中可見,Ferret目前有70億與130億參數兩種版本,尚未有明確資訊顯示具有更大參數規模的版本。
依據Ferret目前的公開資訊,預期可針對圖像與文字進行生成,與現行AI手機呈現的終端應用相近,而70億與130億的參數規模尚可滿足智慧型手機的運算能力。雖然蘋果並未針對Ferret是否部署在2024年發表的新產品發表相關意見,但依據其目前LLM的參數數量,且Android手機陣營皆以陸續推出各自的AI手機,預期蘋果有極高機率將其自家的LLM部署在其終端產品(如iPhone 16),並可進一步擴充虛擬助理Siri的功能,作為在手機上實現生成式AI的能力,以跟進手機同業規格。
AI手機與過往智慧型手機最大的差異為AI手機導入LLM,可透過LLM的部署使手機用戶能在手機上直接實現各類生成式AI應用,進而增加用戶的操作使用便利度,並進一步優化用戶使用體驗。
全球首波發表的AI手機Xiaomi 14系列由於搭載LLM與SD 8 Gen3處理器平台,可直接實現新的AI應用,包含用戶在手機上草繪的圖案,可透過AI將其生成複雜且精美的圖像,用戶並可將手機內的個人照片,透過AI生成屬於自己的AI照片,打造個人化的數位分身。
語言文字方面,用戶可透過AI生成簡短文字對話,以應用在日常生活或工作。OPPO Find X7同樣針對圖像與文字生成著墨,如用戶可將照片景物或人物透過AI自動消除,以獲得較完美照片,並可透過手機虛擬助理「小布助手」,以語音或文字指令,自動進生成文字與圖片,甚至可自動將文章進行重點摘要等功能。
過往虛擬助理為手機一大AI功能,惟其準確性與使用的重要性不高,但在導入LLM後,虛擬助理AI功能得到大幅升級,用戶可透過下達指令予虛擬助理,即可享有眾多不同的圖像、文字生成功能。文字的生成不像過往用戶透過ChatGPT產生,可直接透過虛擬助理在手機上直接生成,且其方式為採用本地運算,用戶同時也不需要擔心資訊外洩,達成用戶隱私保護。
手機品牌的虛擬助理主要建構在各品牌自有的客製化作業系統(OS),如小米的「小愛同學」為建構在Hyper OS,vivo的「Jovi」則為Origin OS,前述陸系手機品牌自家的OS皆與Android OS相容。
AI手機發展下,品牌端可透過開發其OS以逐步擴充各類不同的AI運用,並增進虛擬助理的功能性,開發自家的OS除可打出品牌差異化外,同時可完善品牌的產品生態系(OS同樣可適用於筆電、車用等品牌推出的終端產品)。逐步改進自家的OS、強化虛擬助理功能,以及發展更新穎的生成式AI應用,將成為各品牌開發自家LLM外的策略布局重點。
(本文作者為資策會MIC產業分析師)