Continuous Integration und Continuous Deployment (CI/CD)

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

CI/CD im ML-Lebenszyklus

Bereitstellungsphase im ML-Lebenszyklus

End-to-End Machine Learning

CI/CD-Grundsätze

Continuous Integration (CI)

  • Regelmäßiges Mergen in zentrales Repository
  • Oft mit automatischen Tests zur Bug-Erkennung

Continuous Integration, dargestellt als sich aktualisierende Cloud

Continuous Deployment (CD)

  • Updates im Code automatisch in Produktion deployen
  • Oft mit CI kombiniert

Continuous Deployment, dargestellt als Rakete

End-to-End Machine Learning

CI/CD in Machine Learning

CI/CD ist entscheidend für Produktion/Iteration

  • Z. B.: neues Patientendaten-Import automatisieren
  • Hilft, Data Drift zu vermeiden

 

CI/CD in ML:

  • Modelle regelmäßig neu trainieren
  • Performance testen
  • Automatisiertes, regelbasiertes Deployment
End-to-End Machine Learning

CI/CD mit AWS Elastic Beanstalk

AWS Elastic Beanstalk (EB):

  • Voll verwalteter Dienst für Deployment und Skalierung von Anwendungen + Services
  • EB installieren
eb init


eb create heart_disease_env


eb deploy


eb open
End-to-End Machine Learning

Alternativen zu EB (1)

Azure Machine Learning:

  • Echtzeit-Scoring-Services
  • Verwaltete Compute-Ressourcen fürs Training
  • Leistungsmonitoring in Produktion
End-to-End Machine Learning

Alternativen zu EB (2)

GCP App Engine:

  • Ähnliche Alternative zu AWS EB oder Azure Machine Learning
End-to-End Machine Learning

Alternativen zu EB (3)

Kubernetes:

  • Open-Source-Orchestrierung für Container
  • Automatisiert Deployment, Skalierung, Management containerisierter Apps
  • Kompatibel mit mehreren großen Cloud-Plattformen
  • Höhere Lernkurve, aber mehr Kontrolle
End-to-End Machine Learning

Alternativen zu EB (4)

Und viele weitere!

End-to-End Machine Learning

Lass uns üben!

End-to-End Machine Learning

Preparing Video For Download...