Google Vertex AI整合MLOps

自從AI整合進DevOps，衍生為MLOps之後，除了可繼續善用既有的CI/CD自動化部署管線以外，AI也能藉由自主學習自動化除錯、自動化部署的模式，成為驅動整個DevOps循環的加速器。

日前谷歌(Google)發布了以全新的「PaLM」AI模型為基底的「Vertex AI」引擎，可套用在MLOps的情境上，藉由不斷更新AI模型的資料集、以AI來優化自動化部署管線，可望提升MLOps的整體運作效率。

【案例服務說明】

Vertex AI整合MLOps後，可藉由融合資料集、AutoML自動化機器學習模型，再進行上線部署。在MLOps的情境使用Vertex AI共有如下步驟：

1. AutoML模型，可依據使用者設定的預算、資料、組態，自動推算出最佳化的模型架構。
2. 使用者可藉由管理「統整資料集（Managed Datasets）」，依據需求新增資料集，或將資料餵進現有資料集。
3. 接著建立自動化機器學習管線，導入統整過的資料集，以Vertex AI驅動，實現自動化部署。

圖 1 Vertex Ai示意圖

資料來源： (Park, 2022)

【應用效益與成果】

Vertex AI跟谷歌旗下雲服務一樣，採用流量計價的模式，讓MLOps達到控制成本的效果，協助使用者建立經濟實惠的MLOps管線；除此之外，使用者也能善用谷歌提供的機房資源，來減少建立MLOps系統的軟硬體成本。

另外Vertex AI也能依照不同使用者的不同情境，進行模型訓練的特化，讓MLOps能因應不同情境需求，建立不同型態的資料集，以及最佳化調校的部署管線。

【FIND觀點】

在ChatGPT展現出令人驚豔的原始碼自動校正和自動改版能力後，也對MLOps的生態帶來了變革；而GPT資料集和AI模型，未來將扮演MLOps的關鍵角色，主宰整個MLOps管線的流暢運作。

隨著新世代的資料集和AI模型不斷推陳出新，MLOps的管線也會向AI一樣，自我調適、自動優化，找出有利於管線運作和成本控管的最佳解方與策略。

參考來源：

封面圖片來源：經圖庫123RF授權使用

參考資料

1. Park, C. (2022, June 18). MLOps System with AutoML and Pipeline in Vertex AI. Retrieved from Google Cloud: https://cloud.google.com/blog/topics/developers-practitioners/mlops-system-automl-and-pipeline-vertex-ai 
   
   
2. 楊又肇. (2023年3月17日). Google以Vertex AI平台打造更負責任的人工智慧應用服務. 擷取自 Mashdigi: https://mashdigi.com/google-uses-vertex-ai-platform-to-create-more-responsible-artificial-intelligence-application-services/