人工智慧發展至今已超過60年,ChapGPT崛起後再度掀起一波浪潮,在隱私與安全性的考量之下,越來越多的企業也在評估本地打造生成式AI的可能性,但除了軟體之外,硬體效能也是一大關鍵。AI PC提供了比一般傳統PC更高的運算能力,以便能順暢地在本地執行智慧任務,並且具備更好的用戶體驗、簡化流程、以及提高效率與處理的速度並減少延遲的優勢。
於2023年底即啟動全球AI PC加速計畫,英特爾去(2024)年10月也在台發表新一代AI PC處理器Intel Core Ultra 200V系列(代號Lunar Lake)與Intel Core Ultra 200S系列(代號Arrow Lake),並且邀請了11家合作夥伴展示基於最新平台所打造的筆記型電腦、主機板,以及桌上型電腦。
其中,最為吸睛的莫過於AI引擎生成圖片與影片、8K高畫質影音剪輯、檢索增強生成(RAG)、即時語音辨識的會議紀錄等不同的AI創作與商業應用情境展示。例如透過VLC媒體播放器可在電腦端讓使用者利用文字搜尋多媒體影片中的特定元素,進而播放指定的影片段落;而AI會議記錄應用則結合Intel OpenVINO技術與Whisper模型,進而提升會議轉錄的即時語音識別精度與處理效率。
英特爾業務暨行銷事業群商用業務總監鄭智成指出,Lunar Lake是第二代AI PC處理器,總共有9個產品型號,平台算力大約是介於100 TOPS至120 TOPS之間,但不管是哪一款產品型號都能符合Copilot+ PC的定義。而最高階的處理器,光是NPU就有48 TOPS,若再加上內建的67 TOPS的GPU以及5 TOPS的CPU,整個平台的算力就有120 TOPS之多。
「不過,在實務運作上,應用程式並不會用盡NPU算力,可能選擇GPU來運算或是混合GPU與NPU一起運算,當然也可以只運行在NPU上或是三者一起。但目前來看大部分應用程式運算的主力還是在GPU身上。」他解釋,其實,NPU並不是設計用來運行繁重的工作負載,省電才是備受看重的優勢。舉例而言,AI降噪是現今的視訊會議軟體很受歡迎的功能,但若用CPU來實現,其實很耗電。為了解決這個問題,Intel早期便曾開發一款GNA晶片,專門用來處理語音以及抑制噪音,有了NPU之後,現在這項功能也已經整併到NPU中。
在邊緣執行GenAI算力是關鍵
人工智慧發展至今已超過60年,ChapGPT崛起後再度掀起一波浪潮,在隱私與安全性的考量之下,越來越多的企業也在評估本地打造生成式AI的可能性,除了軟體之外,硬體效能也是一大關鍵。AI PC提供了比一般傳統PC更高的運算能力,以便能順暢地在本地執行智慧任務,並且具備更好的用戶體驗、簡化流程、以及提高效率與處理的速度並減少延遲的優勢。
根據調研機構Gartner預估,到了2026年,將有超過八成企業在正式環境中使用生成式AI的API和模型,或部署支援生成式AI的應用程式。事實上,在Gartner公布的2024生成式人工智慧技術成熟度曲線(Hype Cycle for Generative AI 2024)中,Edge GenAI也被列入榜上,由此也可預見,未來邊緣裝置上執行GenAI應用的需求與發展潛力。
鄭智成指出,早期所談論的Edge AI,最常見的應用就是電腦視覺(Computer Vision),其強調的是辨識能力與辨識速度,例如讓監控系統可以同時辨識到16路網路攝影機等等。而隨著技術演進,這類應用所需算力其實都已充分被滿足,現今任何一款桌上型或筆記型電腦所搭載的處理器,即便沒有配置任何顯示卡,都已能在錄影過程中辨識有無人員經過,或是進行人臉辨識。
但是,能滿足電腦視覺算力需求的個人電腦,並不意謂著也能有效支撐生成式AI應用。「坦白說,以兩年前的技術,如果要在筆記型電腦上執行一個類ChatGPT的生成式AI,並且做到離線還能順暢地問答,確實無法實現。在當時,一定要購買一台昂貴的伺服器,至少要配置NVIDIA GPU加速卡,才能勉強做出一些樣子。」鄭智成認為,NPU確實扮演著關鍵角色,能在邊緣端更輕鬆地執行生成式AI任務,舉例而言,搭載Lunar Lake的AI PC已經能做到在斷網後還能與PC內的生成式AI順暢對話,同時還更為節能,「這在兩年前幾乎無法想像,但兩年後的今天卻已經實現了。Edge GenAI的發展或許會比想像中還要來得更快。」
多元場景助益提升員工生產力
近期,BCG Henderson Institute、波士頓大學以及OpenAI經濟影響研究團隊進行一項探討知識工作者使用GenAI學習新技能的新實驗,實驗發現GenAI不僅僅是提高生產力的工具,還能擴大員工可以執行任務的範圍。這項研究的參與者即使沒有任何編程或統計的相關經驗,也能夠即時提升他們在新資料科學任務上的能力。而這也意謂著,不管是人才招募與內部流動、員工學習與發展、團隊協作與績效管理、策略性人力規劃等方面,生成式AI都可能在其中產生深遠的影響。
「如果GenAI可以運行在企業內部,且員工都能在自己的桌機或筆電上使用,就等於每位員工的生產力都能夠加以提升。」鄭智成舉例,假設某公司要產生一個企劃文宣來宣傳新款的高跟鞋,過去可能要找專業攝影師,依據不同的概念主題,搭建不同的背景與場景,以便讓攝影師捕捉畫面。現在只須透過GenAI就可以很輕鬆地將高跟鞋搭配上不同的場景,產生符合概念形象的照片。」
而原本要構思許久的文案,也可以寫下高跟鞋的優點請GenAI協助生成廣告企劃文案,然後將請AI幫忙整合文字與形象照片。諸如此類文生文或文生圖的應用,對於中小企業而言就具有很大幅度的效率提升以及節省成本的好處。不只如此,在某些特定的使用場景上也能有效降低安全風險,舉例而言,生成式AI可以幫忙程式撰寫人員除錯,而本地端執行便無須擔心程式碼是否會外流。
商用AI PC成企業選項
根據Gartner預估,到了2025年,AI PC在總體PC出貨量中的佔比,將從2024年的17%增長至43%。並且在AI電腦中,筆記型的需求將高於桌上型,2025年AI筆記型電腦的出貨量將佔筆記型電腦總出貨量的51%。
事實上,除了一般消費市場外,許多PC品牌商也早已開始佈局商用AI筆電市場。鄭智成認為,將中高階產品鎖定商用需求是很合理的策略,由於AI PC才剛上市不久,並不是一般消費者主流的價格帶,而商用需求原本就對PC的品質要求較高,因此也較能接受較高單價的選項。而另一方面,未來有許多GenAI應用將會依據企業需求而設計,這時便需要提供AI PC給員工使用或是補助員工購置AI PC,以便能在工作期間更順暢地使用AI。「現在已有企業針對新進人員或是員工筆電汰換全面提供AI PC的選項。」
「AI PC未來的成長會越來越快,一方面是在技術的精進下,算力會不斷提升,二方面相關的應用也會如雨後春筍不斷推出,而這兩者也會不斷地推進市場動能的變化。」他說。