Kontinuerlig integrering och driftsättning (CI/CD)

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

CI/CD i maskininlärningens livscykel

Driftsättningsfasen i maskininlärningens livscykel

End-to-End Machine Learning

CI/CD-principer

Kontinuerlig integrering (CI)

  • Regelbunden sammanslagning till centralt arkiv
  • Inkluderar ofta automatiska tester för att hitta buggar

Kontinuerlig integrering representerad av ett uppdaterande moln

Kontinuerlig driftsättning (CD)

  • Driftsätter automatiskt koduppdateringar i produktion
  • Kombineras ofta med CI

Kontinuerlig driftsättning representerad av en raket

End-to-End Machine Learning

CI/CD inom maskininlärning

CI/CD är avgörande för produktion och iteration

  • T.ex.: automatisera inläsning av nya patientdata
  • Hjälper till att undvika datadrift

 

CI/CD inom maskininlärning:

  • Träna om modeller regelbundet
  • Testa prestanda
  • Automatiserad, regelbaserad driftsättning
End-to-End Machine Learning

CI/CD med AWS Elastic Beanstalk

AWS Elastic Beanstalk (EB):

  • Fullt hanterad tjänst för driftsättning och skalning av applikationer och tjänster
  • Installera EB
eb init


eb create heart_disease_env


eb deploy


eb open
End-to-End Machine Learning

Alternativ till EB (1)

Azure Machine Learning:

  • Realtidsscoringtjänster
  • Hanterade beräkningsresurser för träning
  • Prestandaövervakning i produktionsmiljöer
End-to-End Machine Learning

Alternativ till EB (2)

GCP App Engine:

  • Liknande alternativ till AWS EB eller Azure Machine Learning
End-to-End Machine Learning

Alternativ till EB (3)

Kubernetes:

  • System med öppen källkod för containerorkestrering
  • Automatiserar driftsättning, skalning och hantering av containeriserade applikationer
  • Kompatibelt med flera stora molnplattformar
  • Brantare inlärningskurva, men ger större kontroll
End-to-End Machine Learning

Alternativ till EB (4)

Många, många fler!

End-to-End Machine Learning

Nu kör vi en övning!

End-to-End Machine Learning

Preparing Video For Download...