Évolutivité

Déployer des modèles de Machine Learning en production

Sinan Ozdemir

Data Scientist, Entrepreneur, and Author

Contraintes de calcul et évolutivité

  • Les besoins en CPU, mémoire et disque influencent l'évolutivité d'un modèle de Machine Learning
  • Mesurez l'usage CPU, mémoire et disque pendant l'entraînement et l'inférence
  • Repérer tôt ces limites améliore l'évolutivité du modèle

salle de serveurs

Déployer des modèles de Machine Learning en production

Complexité du modèle et évolutivité

  • La complexité du modèle affecte l'évolutivité
  • Trouver l'équilibre entre complexité et évolutivité est difficile
  • Stratégies pour équilibrer :
    • Sélection de caractéristiques (p. ex. khi carré, PCA)
    • Compression de modèle (p. ex. élagage)

ACP

Analyse en composantes principales (PCA)

Déployer des modèles de Machine Learning en production

Vélocité des déploiements et évolutivité

  • Déployer et itérer rapidement est crucial pour la pertinence et l'exactitude
  • Stratégies
    • intégration/déploiement continus : à voir dans la prochaine leçon
    • apprentissage en ligne : apprendre avec de nouvelles données en temps réel

coureur

Déployer des modèles de Machine Learning en production

Stratégies d'échelle optimales

  • Les compromis incluent le coût de service, le réentraînement et la vélocité des déploiements
  • Stratégies d'échelle : échelle horizontale, échelle verticale, ajustement automatique
    • Échelle horizontale : ajouter des machines
    • Échelle verticale : augmenter la taille des machines
    • Ajustement automatique : ajuste le nombre de machines selon la charge

mise à l'échelle

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Déployer des modèles de Machine Learning en production

Choisir votre stratégie d'échelle optimale

  • L'échelle horizontale s'appuie sur l'équilibrage de charge et le partitionnement

  • Compromis de l'échelle horizontale : complexité, coût ($)

  • L'échelle verticale augmente la taille des machines

  • Compromis de l'échelle verticale : coût ($)

Idéalement : ajuster automatiquement à l'horizontale et à la verticale.

mise à l'échelle

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Déployer des modèles de Machine Learning en production

Passons à la pratique !

Déployer des modèles de Machine Learning en production

Preparing Video For Download...