モデルのデプロイ戦略

MLOpsのデプロイとライフサイクル

Nemanja Radojkovic

Senior Machine Learning Engineer

デプロイ成功!

  • MLアプリ稼働中
  • APIは毎時数千リクエストを処理
  • 1か月後:
    • 新しい優れた特徴量を発見
    • 新たな学習データを収集
    • モデル構築パイプラインを実行
    • 新しいモデルパッケージを作成
MLOpsのデプロイとライフサイクル

入れ替え

MLOpsのデプロイとライフサイクル

オフライン推論

MLOpsのデプロイとライフサイクル

変更ウィンドウ

MLOpsのデプロイとライフサイクル

リアルタイムのダウンタイム

MLOpsのデプロイとライフサイクル

高コストのダウンタイム

MLOpsのデプロイとライフサイクル

Blue/Green 構成

MLOpsのデプロイとライフサイクル

ワンクリック切替

MLOpsのデプロイとライフサイクル

Blue/Green 用語

MLOpsのデプロイとライフサイクル

長所と短所

MLOpsのデプロイとライフサイクル

ロールバック

MLOpsのデプロイとライフサイクル

カナリアデプロイ

MLOpsのデプロイとライフサイクル

リクエスト分割

MLOpsのデプロイとライフサイクル

ステップ2

MLOpsのデプロイとライフサイクル

最終結果

MLOpsのデプロイとライフサイクル

MLOpsのデプロイとライフサイクル

検証

MLOpsのデプロイとライフサイクル

短所

MLOpsのデプロイとライフサイクル

リスク低減

MLOpsのデプロイとライフサイクル

練習しましょう!

MLOpsのデプロイとライフサイクル

Preparing Video For Download...