只有一半 AI 模型具有商業價值?讓ModelOps帶你踏上最後一哩路!

圖說:SAS台灣業務顧問部副總經理-陳新銓(圖片來源:SAS Taiwan)

大多數的人都聽過Devops(開發維運),但是最近興起AI模型的開發與流程中導入更多DevOps 精神,此調整不但能提高模型開發效率與上線速度。此外,能提升模型開發效率及加快上線速度及確認AI預測的表現,上述強大的功能在談論的是近期科技界熱議話題「ModelOps 流程」。

數據分析大廠 SAS 台灣業務顧問部–副總經理陳新銓表示「 企業雖然積極擁抱 AI,根據全球調查結果顯示目前企業所開發的 AI 模型只有 50% 會進入部署階段,且這些模型高達 90% 花了 3 個月時間才順利上線。上線後也會因為業務需求改變或其他因素而讓模型不敷使用,AI 模型從開發到落地部署並不容易,因此 ModelOps 已成為前瞻企業著眼的下一波技術管理趨勢。」

如何實踐 ModelOps 應用?陳新銓表示必須掌握三大重要機制,首先是「模型儲存管理 – 中央式管理各類模型」,多數企業內部的模型程式碼、資料等文件常散落在不同系統平台中,若再遇到人事流動,無法有效留存AI模型或交接而損失其潛在價值。因此,企業應建立一個中央式的模型儲存庫,記錄每個模型的版本、預測表現、資料變數等詳細資料,如此即便有人事流動或是模型數量繁多,也能累積分析能量。其次是「模型流程管理 – 設計出自動化、標準化模型作業流程」,AI 模型從開發到部署,需要多個部門協力完成,若能用自動化與標準化流程,簡化人工程序,也利於跨部門,甚至是資料科學技能相對初階的業務需求單位都能加入協作,標準化的作業流程管理,也可做為內部稽核或改善依據,這對台灣金融業來說尤為重要。

最後是「開放的 API 介面 – 整合既有軟體系統」,大多數企業使用不同功能類型的軟體來支援 AI 開發和部署,能友善地整合既有系統才可真正發揮 ModelOps 價值,而其介接的 API 介面是關鍵。透過整合更多元的系統,可持續整合與持續交付 ( CI / CD ) 的終極效果。

舉例來說,日本瑞穗銀行個人貸款部門就以 ModelOps 精神建立資料平台,提供原本的作業流程中增加集中控管模型的儲存庫,標準化機器學習模型從部署到應用的作業流程,讓過往需要數週的貸款審核,現在僅需 30 分鐘就能完成,ModelOps 模式是種精神文化,非標準作業流程無法一體適用,企業務必要選擇足夠彈性的開發平台,才能透過 AI 模型整合管理效率與業務規則,提高工作效力,展現「決策最佳化」的終極目標。

記者