Leo Yeh's Blog

SAS 模型管理 (4)

教學目標

初步了解 SAS 有關開源程式碼模型管理解決方案之實際整合操作的基本概念。

重點概念

首先 SAS Model Manager 能不能夠整合 Tensorflow 模型呢?目前已經經過實測已經確定能夠搭配容器進行整合部署,我們能夠很輕易的將 Tensorflow 模型整合至 SAS Viya 平台中進行模型管理,像是我們能夠以 Fashion MNIST 影像分類模型為範例進行模型完整生命週期的測試,這是個非常適合展示和練習的影像辨識範例。此外 SAS Model Manager 能不能夠同時整合 Github 呢?目前已經有針對這樣的需求開發出專門提供給企業客戶客製的應用程式網站服務,透過網站服務就能夠將 Github 的檔案直接同步至 SAS Model Manager 中的模型儲存庫中且進行版本控管。

接著 SAS Model Manager 進行模型管理的過程中主要會以 SAS Workflow Manager 開發客製化的工作流程為主,並且以 SAS Viya 分析平台為基礎提供完整的安全控管機制,以及搭配 SAS Visual Analytics (VA) 開發模型驗證報表,以利寄信通知審核人員,更進一步透過 SAS Micro Analytic Service (MAS) 發佈模型,以利讓任何應用程式透過 REST API 存取深度學習模型從實驗室中移至正式環境中進行整合應用,這是個非常有趣的主題,同時也是目前最需要被解決模型管理的問題,尤其是以分析模型為基礎應用的企業,像是金融業、製造業、醫療業、零售業、遊戲業、…等。

再來 SAS Model Manager 提供開放式的 REST API 將能夠讓我們透過 Python 程式碼註冊模型、建立模型、訓練模型、驗證模型和發佈模型,此時我們更能夠透過 sasctl 套件非常直覺的方式透過 Python 程式碼存取 SAS Model Manager 進行模型管理。此外針對訓練模型和發佈模型,則可能透過容器的方式訓練和發佈 Tensorflow 模型,此時我們更能夠透過 model-container-recipes 先建立以 Python 為基礎的映像檔,接著再以基礎的映像檔建立模型的映像檔,若是看得懂 Dockerfile 的技術人員,則能夠客製使用,而不一定要透過 AWS、Azure 和 GCP 雲端平台的自動化腳本才能夠進行使用,這將會是個不錯的開發整合方向。

最後 SAS Model Manager 最近專門針對開放源始碼釋出 SAS Open Model Manager 解決方案,然而這個解決方案非常簡單,但是卻能夠滿足企業中開源程式碼模型管理的需求,少即是多,因為簡單,所以更能夠與開放源始碼進行整合應用,並且透過容器進行部署,這非常重要,因為企業通常會有開發、測試和驗證環境,此時透過 SAS Open Model Manager 所產生的部署容器將能夠在符合企業上線流程的規範下自動化進行模型映像檔之容器部署,同時藉由容器部署的方式,將能夠讓資訊人員更有效的透過最新的容器管理工具,針對不同的使用者需求動態調整資源,以利解決企業上線部署和維運管理的痛點。

相關資源

⬅️ Go back