SAS日前發表已助玉山金控建置維運化（Ops）流程，讓上百個AI模型得以數分鐘內完成監控與回饋，實現AI規模化應用；亦與臺北榮總合作即時資料處理、AI自動化與邊緣運算，AI維運化三階段佈局，助其將AI專案完成時間從1年縮減到1週內，並提供可解釋的AI讓診療輔助更安全！
玉山金控早前為了讓AI服務能在各事業單位實際發揮商業價值，由智能金融處自建機器學習即服務平台（Machine Learning as a Service，MLaaS），讓各業務單位系統可透過此平台即時呼叫請求AI微服務，可說是打造供應內部單位AI的服務平台。
然而，隨著內部AI應用場景愈來愈多元，連接此平台上包含行銷、風控、服務等AI模型累計數量超過上百個!這些模型上線後迎來營運端不斷變化的真實資料，要維持一定的預測準確度不易，如早前上線的信用卡盜刷偵測模型，受疫情影響刷卡習慣從實體商店移轉到電商通路，這些改變導致既有盜刷偵測失準，突顯模型監控的重要性。然而，監控流程牽涉到使用的業務單位、資訊處及智能金融處等部門各異的管理機制；且一個情景的模型監控，可能就要耗費多個人天，如果模型失準後還需要再投入3-6個月重新訓練，不難想像當面對上百個模型，管理難度與時間耗費多麼驚人。
因此玉山攜手SAS，共同打造一個自動化、透明化的模型維運流程（ModelOps），藉以將模型管理作到規模化。這流程包含把所有AI（商用或開源）模型版本、分析專案納管在一個中央儲存庫，設定權限讓應用單位機密不外洩；再來把整個模型生命週期的管理流程標準化，提高協作效率也便於監控；最後打造統一且透明的回饋機制，讓各應用單位權責人員皆可主動監控異況，同時參與簽核把關模型品質。最重要的是透過此平台把整個管理與稽核軌跡留存下來，為邁向法遵規範立穩根基。
玉山金控科技長張智星表示，與SAS的合作讓我們成功將監控模型作業，從3天縮短到數分鐘。但更看重的意義，是當應用單位也共同參與監管AI、認同AI的精準度，才會更願意在日常營運使用它，讓AI展現真正價值。
臺北榮總與SAS共同合作展開三階段AI臨床應用技術藍圖。去年初雙方首先完成階段一：資料為王，將北榮大數據平台的資料，與血液透析（洗腎）機等聯網機器分秒吐出的串流資料做串接，毫秒級分析不同結構的巨量資料，為腎友做到90%準確率的個人心衰竭風險預判。後續還串接肺部影像資料讓病因分析更全面。
日前再度完成階段二，AI自動化與邊緣運算，即導入自動化機器學習AutoML技術，讓建模過程從資料前處理、模型建置與部署，到模型解釋全都自動化，協助院內分析人員減少超過9成的建模時間!省下更多時間拿來跟醫師對焦病因，且有餘力支援愈來愈多元的分析命題，如加入血紅素偵測助醫師預判腎性貧血等。同時AutoML還可1秒產出解釋報告，為醫生排序病患心衰竭的複雜成因，幫助醫師臨床診斷更便捷、更具實證支持！實際參與專案的腎臟科醫生也表示，相比過往使用開源軟體完成專案需耗費1年，現在透過AutoML只要1週！
為了讓上述應用服務拓展到更多科別與院區，後續雙方也聯手打造邊緣運算，讓AI模型運作於如洗腎機等終端點裝置上，即可啟動即時運算，無須擴增相對昂貴的伺服器數量，預計可省下99%的伺服器硬體費用，讓平行拓展AI模型的成本大幅降低，規模化得以實現!
完成了優化AI開發與規模化AI應用後，第三階段北榮要做到「管控與拓展」，透過架構在雲端環境上的模型維運化（ModelOps）流程，不斷監控模型效能。臺北榮總資訊室郭振宗主任說明，醫院做模型維運化的終極目的，是要管控AI模型的效能，以確保輔助診療的安全性。未來還要朝向邁入食藥署『軟體即醫療器材（SaMD）』的目標，推展此一典範模型給更多醫院，以造福更多病患。
!此為分頁標誌前台不顯示!