最新のMLOpsフレームワーク

MLOpsのデプロイとライフサイクル

Nemanja Radojkovic

Senior Machine Learning Engineer

自己紹介

 

プロフィール写真

 

  • シニア機械学習エンジニア
  • 本番環境での機械学習モデルの開発・デプロイ・運用保守の経験
  • 現在の関心領域:MLのデプロイとライフサイクル管理
1 www.linkedin.com/in/radojkovic
MLOpsのデプロイとライフサイクル

概念中心のコース

YES: 概念の把握

概念フローチャート

NO: ハンズオンスキル

ハンズオンでのコーディング

MLOpsのデプロイとライフサイクル

MLOps

Machine Learning Operations

  • 原則
  • 実践
  • ツール

目標:MLのワークフローとサービス

  • 自動化
  • 再現可能
  • 統合
MLOpsのデプロイとライフサイクル

オペレーション パート1

MLOpsのデプロイとライフサイクル

オペレーション パート2

MLOpsのデプロイとライフサイクル

開発からのMLOps

MLOpsのデプロイとライフサイクル

第1章

MLOpsの価値と必要性

価値

モデルライフサイクルの段階

ライフサイクル

 

MLOpsフレームワークの構成要素

ブロック

MLOpsのデプロイとライフサイクル

DevOpsのみ

MLOpsのデプロイとライフサイクル

DevOpsとMLOps

MLOpsのデプロイとライフサイクル

OpsなしMLの高コスト

 

一般的な出発点

  • 手作業のMLワークフロー
  • 手作業のデプロイ
  • アドホックな監視

 

=> 技術的負債の蓄積

MLOpsのデプロイとライフサイクル

技術的負債

いま簡単な解決策を選ぶことで、より良い(時間のかかる)方法を避けた結果生じる、追加作業の暗黙コスト

~ Wikipedia[1]

 

このテーマの有名なGoogle論文:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

時間とデプロイが増えるほど

  • 技術的負債とモデルリスクが増加
  • プロセスは遅く、ストレス増・ミスが増える
  • 価値提供能力が低下
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
MLOpsのデプロイとライフサイクル

MLワークフロー

  • データ収集・前処理
  • データラベリング
  • モデル選定
  • モデル学習
  • モデルパッケージ化
  • モデルデプロイ
  • モデル監視・保守

 

MLワークフローの自動化 = MLOpsの成熟度

MLOpsのデプロイとライフサイクル

MLOpsの実装後

  • 自動化
  • 高速
  • 再現可能
  • 説明可能
MLOpsのデプロイとライフサイクル

今ここ

MLOpsのデプロイとライフサイクル

非線形

MLOpsのデプロイとライフサイクル

線形

MLOpsのデプロイとライフサイクル

スポットライト 1

MLOpsのデプロイとライフサイクル

注目を集める

MLOpsのデプロイとライフサイクル

MLOpsのデプロイとライフサイクル

この後の内容

 

モデルのライフサイクル管理

ライフサイクル

MLOpsアーキテクチャ

概念フローチャート

MLOpsのデプロイとライフサイクル

練習しましょう!

MLOpsのデプロイとライフサイクル

Preparing Video For Download...