Stratégies de déploiement de modèles

Déploiement MLOps et cycle de vie

Nemanja Radojkovic

Senior Machine Learning Engineer

Déploiement réussi !

  • L'appli de ML fonctionne
  • L'API traite des milliers de requêtes/heure
  • Un mois plus tard :
    • Nouvelles fonctionnalités, meilleures
    • Nouveau lot de données d'entraînement recueilli
    • Pipeline de création du modèle exécuté
    • Nouveau paquet du modèle créé
Déploiement MLOps et cycle de vie

remplacement

Déploiement MLOps et cycle de vie

prédiction hors ligne

Déploiement MLOps et cycle de vie

fenêtre de changement

Déploiement MLOps et cycle de vie

arrêt en temps réel

Déploiement MLOps et cycle de vie

arrêt coûteux

Déploiement MLOps et cycle de vie

configuration bleu-vert

Déploiement MLOps et cycle de vie

clic d'un bouton

Déploiement MLOps et cycle de vie

terme bleu-vert

Déploiement MLOps et cycle de vie

avantage inconvénient

Déploiement MLOps et cycle de vie

rétrogradation

Déploiement MLOps et cycle de vie

déploiement canari

Déploiement MLOps et cycle de vie

répartition des requêtes

Déploiement MLOps et cycle de vie

étape deux

Déploiement MLOps et cycle de vie

résultat final

Déploiement MLOps et cycle de vie

Déploiement MLOps et cycle de vie

validation

Déploiement MLOps et cycle de vie

inconvénient

Déploiement MLOps et cycle de vie

atténuation des risques

Déploiement MLOps et cycle de vie

Passons à la pratique !

Déploiement MLOps et cycle de vie

Preparing Video For Download...