Modelonderhoud

MLOps-deployments en levenscyclus

Nemanja Radojkovic

Senior Machine Learning Engineer

Eerder...

  • Hoe vang je anomalieën en verstoringen?

 

Focus van deze les: falende ML‑modellen

MLOps-deployments en levenscyclus

model verslechterd

MLOps-deployments en levenscyclus

model verbeteren

MLOps-deployments en levenscyclus

dataset verbeteren

MLOps-deployments en levenscyclus

model‑centrisch

MLOps-deployments en levenscyclus

data centric

1 https://datacentricai.org/
MLOps-deployments en levenscyclus

Kwaliteit boven kwantiteit

  • Meer features met relevante info
  • Betere labels

 

Label == Doelwaarde in de trainingsset

Labelkwaliteit == hoe dicht het label bij de ground truth ligt

MLOps-deployments en levenscyclus

slechte labels

MLOps-deployments en levenscyclus

slechte voorspelling

MLOps-deployments en levenscyclus

Voordelen van labelingtools

Handmatig labelen is complex, traag en foutgevoelig

Gebruik goede labelingtools!

  • Efficiënter labelen
  • Nauwkeuriger
  • UI geschikt voor het doel
  • "Label eerst deze voorbeelden voor maximale impact"
  • "Het lijkt alsof je hier een fout hebt gemaakt"

labeling tool

Voorbeeld: tool voor beeldlabeling, voor het bouwen van beeldclassifiers

MLOps-deployments en levenscyclus

mens in de lus

MLOps-deployments en levenscyclus

HIL 2

MLOps-deployments en levenscyclus

input van experts

MLOps-deployments en levenscyclus

MLOps-deployments en levenscyclus

Als de labels binnen zijn

  • Draai ML‑buildpipeline => nieuw model
  • Check of het nieuwe model beter is dan het oude
    • JA => testen en deployen
    • NEE => verder zoeken
MLOps-deployments en levenscyclus

Blijf zoeken

  • Probeer nieuwe modellen
  • Probeer nieuwe features
  • Probeer nieuwe databronnen

 

Enorm handig: Metadata store (MLflow Tracking, etc.)

  • Leg de modelselectie vast
  • Voorkom herhaling van experimenten

 

Hoe dan ook: MLOps helpt ons het model snel en efficiënt te onderhouden

MLOps-deployments en levenscyclus

Laten we oefenen!

MLOps-deployments en levenscyclus

Preparing Video For Download...