監視とアラート

MLOpsのデプロイとライフサイクル

Nemanja Radojkovic

Senior Machine Learning Engineer

外部世界

MLOpsのデプロイとライフサイクル

サービスの不具合

MLOpsのデプロイとライフサイクル

不具合の検出

MLOpsのデプロイとライフサイクル

多くの可動部分

MLOpsのデプロイとライフサイクル

障害点 2

MLOpsのデプロイとライフサイクル

アラート

MLOpsのデプロイとライフサイクル

こちらを参照

MLOpsのデプロイとライフサイクル

ログ記録 1

MLOpsのデプロイとライフサイクル

ログ記録 2

MLOpsのデプロイとライフサイクル

ログ記録 3

MLOpsのデプロイとライフサイクル

データパイプライン 1

MLOpsのデプロイとライフサイクル

データ検証 2

MLOpsのデプロイとライフサイクル

データプロファイル検証

MLOpsのデプロイとライフサイクル

統計的検証

可能性:

  • 過敏すぎる
  • 情報不足

 

【リスク】

  • アラート過多
  • アラート疲れ
  • 重要なアラートの見落とし
MLOpsのデプロイとライフサイクル

全員に通知

MLOpsのデプロイとライフサイクル

履歴から学ぶ

インシデント対応後 => 根本原因と対処手順を記録

Googleの例[1]:

  • 10年分のインシデントを記録・分析
  • 3分の2超はML非起因
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
MLOpsのデプロイとライフサイクル

集中監視

MLOpsのデプロイとライフサイクル

Let's practice!

MLOpsのデプロイとライフサイクル

Preparing Video For Download...