KubernetesでのMLOps

Kubernetes入門

Frank Heilmann

Platform Architect and Freelance Instructor

MLOpsとは？

  • 本番で機械学習モデルをデプロイ・運用するためのパラダイム
  • 継続的なモデル開発に焦点を当てたベストプラクティスのワークフロー集
  • DevOpsに着想：
    • モデルは隔離された実験環境で開発・テストし、その後本番へデプロイ
    • 本番では継続監視し、必要に応じて再学習をトリガー
  • データサイエンティスト、データエンジニア、ITが同期的に運用モデルを改善し、精度を担保
Kubernetes入門

KubernetesでMLOpsを実装する

  • MLOpsはKubernetesと非常に相性が良い：

    • 隔離された実験環境：PodとKubernetes Storageで実現可能
    • 本番モデルの監視：Podのライフサイクル（とデプロイ済みイメージの版）で実施可能
    • 精度向上の同期作業：Kubernetesの設計により当初から支援

  • MLOps向けフレームワークはいくつか存在。代表的なOSSは

Kubernetes入門

Kubeflowの概要

Kubeflowの概要

  • Kubeflowは、Kubernetes上でのMLワークフローを簡単にデプロイ可能にします
  • MLモデルのライフサイクル全体をカバー
  • 各工程を担う複数コンポーネントで構成。独立して動作
  • PythonのAPIでモデルを開発・デプロイ可能
    • kubectlは不要
Kubernetes入門

演習に進みましょう

Kubernetes入門

Preparing Video For Download...