MLOps sur Kubernetes

Introduction à Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Qu'est-ce que MLOps ?

Un paradigme pour déployer et maintenir des modèles de Machine Learning en production
Un ensemble de flux de travail exemplaires axés sur le développement continu de ces modèles
Inspiré de « DevOps » :
- Les modèles de Machine Learning sont conçus et testés dans des systèmes expérimentaux isolés, puis déployés en production
- En production : surveillance continue; un réentraînement peut être déclenché
Les scientifiques des données, ingénieurs de données et équipes TI peuvent collaborer simultanément sur les modèles déployés et assurer leur justesse

Le paradigme MLOps s'arrime très bien à Kubernetes :
- Systèmes expérimentaux isolés : réalisables avec des Pods et le stockage Kubernetes
- Surveillance des modèles ML en production : activée via le cycle de vie des Pods (et les versions d'images déployées)
- Travail synchronisé sur la justesse du modèle : prévu dès le départ par l'architecture Kubernetes
Plusieurs cadres MLOps existent; les deux solutions libres les plus connues sont
- mlflow
- Kubeflow

Aperçu de Kubeflow

Kubeflow facilite le déploiement de flux de travail ML spécifiquement sur Kubernetes
Couvre chaque étape du cycle de vie d'un modèle ML
Se compose de plusieurs composants couvrant ces étapes, pouvant fonctionner de façon indépendante
Python peut servir à concevoir et déployer des modèles ML via une API
- pas besoin d'utiliser kubectl

Introduction à Kubernetes