MLサービスの監視

MLOpsのデプロイとライフサイクル

Nemanja Radojkovic

Senior Machine Learning Engineer

品質の維持

  • 有料顧客=品質への期待
  • 品質保証は品質管理から
  • 監視
MLOpsのデプロイとライフサイクル

パフォーマンス指標

基本的な健全性指標

  • サービスは稼働中か?
  • 一定時間のリクエスト数は?
  • レイテンシの分布は?

 

最終的な品質指標

  • 予測性能

MLモデルはどう劣化するか?

MLOpsのデプロイとライフサイクル

シンプルな分類器

MLOpsのデプロイとライフサイクル

学習された境界

MLOpsのデプロイとライフサイクル

訓練済みモデル

MLOpsのデプロイとライフサイクル

世界は変化している

MLOpsのデプロイとライフサイクル

変化 2

MLOpsのデプロイとライフサイクル

境界の変化

MLOpsのデプロイとライフサイクル

コンセプトドリフト

MLOpsのデプロイとライフサイクル

変えないと劣化する

MLOpsのデプロイとライフサイクル

どう検知するか

MLOpsのデプロイとライフサイクル

MLOpsのデプロイとライフサイクル

落とし穴

MLOpsのデプロイとライフサイクル

ユースケース別

MLOpsのデプロイとライフサイクル

無料ではない

MLOpsのデプロイとライフサイクル

あるものを活用

MLOpsのデプロイとライフサイクル

入力特徴の変化

MLOpsのデプロイとライフサイクル

共変動シフト

MLOpsのデプロイとライフサイクル

入力監視の限界

MLOpsのデプロイとライフサイクル

出力監視

MLOpsのデプロイとライフサイクル

Passons à la pratique !

MLOpsのデプロイとライフサイクル

Preparing Video For Download...