Edge AI 邊緣人工智慧 雲端 物聯網 公有雲

掌握大廠圈地慷慨讓利時機 切入工控系統整合銷售通路

邊緣AI閘道器市場逐鹿 服務及軟體業商模大洗牌

2023-11-22
基於愈多愈多人工智慧(AI)應用情境需要即時獲得推論結果,過往在雲端上執行推論的作法逐漸難以滿足即時性,故業界開始倡議將推論工作移出雲端,就近在需求現場執行,此稱為邊緣人工智慧(Edge AI)。

基於愈來愈多的人工智慧(AI)應用情境需要即時獲得推論結果,過往在雲端上執行推論的作法逐漸難以滿足即時性,故業界開始倡議將推論工作移出雲端,就近在需求現場執行,此稱為邊緣人工智慧(Edge AI)。近年來,國際大廠多積極布局Edge AI,顯見市場重要性,同時Edge AI在銷售通路上、開發模式上也與過往資訊軟體產業略有不同,現行軟體商、資訊服務商應有所調整方能掌握成長機會。

Edge AI發展順應多項新軟體模式

Edge AI雖為本地端(Local)安裝、本地端執行,但其軟體交付、銷售、計費卻有別於傳統家戶市場、企業市場的本機端軟體,反而偏向工業控制系統、物聯網、公有雲服務等領域的模式。

Edge AI開發工具雲端化

傳統的軟體開發工具多為本地端安裝、執行,並由軟體商向用戶收取軟體授權費、後續軟體更新費、技術支援維護費。一般而論,用戶不傾向使用雲端版的軟體開發工具,避免原始程式碼因雲端資安問題而外洩。

不過,用戶也逐漸體會到開發環境雲端化的優點,包含可多方協作、軟體版本快速疊代等,故有許多開發工具亦開始衍生雲端版本,與本地端版本並行,甚至雲端版先行改版,即雲端先行,穩定後再比照更新本地版,甚或後續僅有雲端版。

順應此一趨勢,新興軟體商的Edge AI開發工具也傾向雲端版發展,例如Edge Impulse、SensiML的Edge AI開發工具均採行軟體即服務(SaaS)模式,可免費註冊登入使用但有諸多功能、用量限制,訂閱付費版則放寬或解除限制,並採每月、每季收費,更大量使用需求或特殊使用需求,則須直接洽詢軟體商進行商議。

Edge AI推論執行軟體偏工控預裝路線與市集化路線

長期以來,傳統家戶本地端軟體、企業本地端軟體多隨個人電腦或伺服器預裝出貨,軟體商向個人電腦或伺服器硬體商收取預裝(pre-install)授權費。

然而,Edge AI軟體的預安裝則在物聯網閘道器,閘道器鄰近各種現場環境,必須比消費性硬體、商務性硬體更具強固性、環境耐受性,因此多由工控電腦設計製造與銷售。

由此可知,Edge AI軟體商須改變預裝業務的合作管道,改以工控電腦製造商、系統整合商(SI)為主的合作。部分閘道器已確定在條件較佳的環境中運作,則能直接使用個人電腦或伺服器充當閘道器角色,如此仍可循傳統預裝銷售管道推展。

另外,軟體的安裝也開始朝市集化發展,例如Google Play可以在雲端或手機上瀏覽應用程式,選定應用程式後,即可由雲端派送應用程式,下載至本地端安裝執行。

相同作法也開始試用於工控電腦、物聯網閘道器領域,如AWS透過IoT Greengrass雲端服務將IoT應用程式派送到前端,並在閘道器內的Greengrass用戶端軟體平台上執行。

Edge AI多元導入手法與計費方式

就雲端的觀點而言,邊緣為外部終端裝置,然就終端裝置而言,邊緣又有如雲端或代理雲端的角色性質,因此Edge AI既被雲端派送與管理,但Edge AI自身對更前端的裝置而言,也能採行與雲端類似的彈性計費,例如以安裝時間計費、以推論執行次數計費等。

Edge AI也可以採行傳統企業軟體導入作法,先銷售套裝軟體,或依需求選定軟體中的部分功能模組,而後依個別客戶的特有需求進行客製化開發,最後測試驗收以及每年收取軟體維護更新費、支援維護費。

正因為Edge AI的混血(Hybrid)特性,加上不同產業有不同的Edge AI應用情境,如產線產品瑕疵辨識、城市公共安全監控、百貨零售業人潮推算、交通管制車流推算等,使Edge AI發展既靈活彈性,卻也零散複雜。

方案發展與推動須高度務實

Edge AI因實務需求而產生,其軟體與系統整合須高度切合客戶需求,須對產業應用高度認知,因此必須專精或謹慎擴展產業別服務領域。 如DeepSig、Mavenir專注於5G建設所需的Edge AI,或Miacro.ai以廠區應用、資安防護為主,或必須專長於特定性質的應用,如圖片影像類、語音文字類、感測數據類。

在方案導入上,也必須了解客戶導入Edge AI的主要考量,雖然多數考量為時效性,然部分客戶也可能以隱私為第一考量,次之為時效,或重視通訊頻寬的節費,或為整體IoT系統的運作穩定性,同時也盡量降低Edge AI與邊緣運算類似的缺點所帶來的限制。

技術與市場夥伴建立與調整

Edge AI基礎技術多來自Intel、Microsoft等大廠,為我國PC資訊產業長期熟悉的技術合作夥伴,加上Intel期在增強銷售晶片、Microsoft期在增加銷售公有雲服務,故Edge AI基礎技術多不收費,並透過免費擴大自有技術的影響力、壯大其技術生態圈,故有心發展Edge AI方案與市場的資訊服務業者,可延續與加深與Intel、Microsoft等大廠間的技術合作。

在Edge AI的銷售通路市場上,由於Edge AI多在解決實際的企業現場營運問題與挑戰,故以企業營運用的專屬設備商、工控系統商、工控電腦商為主,故需要調整銷售通路夥伴策略,開闢建立新通路,或以過往已有的工控銷售通路加以強化。

市場耐心與保有彈性

Edge AI為新興概念市場,大廠、新創相繼投入,技術上尚未顯現主流,市場上也尚未有明顯的殺手級應用,加上行銷推廣滲透、客戶認知普及等亦需要時間,現階段即投入的業者需有耐心等待的心理準備。

也由於Edge AI市場仍在起步摸索階段,大小新舊業者極可能投入開發相似、重複的技術,並在技術競賽上產生消長,故業者須依據消長動向調整自身的技術策略。

以AI框架為例,Caffe框架已確定無後續維護,Caffe框架的相關軟體開發人員已轉向PyTorch,而PyTorch開始有追趕上先行者TensorFlow的跡象,故是否要持續使用Caffe或轉向PyTorch,抑或轉向TensorFlow,或過往即以TensorFlow為主並持續使用,均需要持續關注關鍵技術框架發展脈動,快速進行評估與發展路線調整。

最後,Edge AI兼具本機端、遠距雲端的特性,其導入方式、計費方式亦同時適用本機端軟體授權、雲端依用量付費等作法,因此不僅技術策略、通路策略應保有彈性,在針對客戶的收費計價上也應保有彈性,並持續評估檢討以滿足用戶多元需求。

<本文作者:郭思偉現為資策會MIC產業分析師>


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!