Datakvalitet och datainsamling

MLOps-koncept

Folkert Stijnman

ML Engineer

Datakvalitet och datainsamling

Datainsamling i maskininlärningens livscykel

MLOps-koncept

Vad är datakvalitet?

  • Datakvalitet mäter hur väl data uppfyller sitt syfte
  • Utvärderas utifrån olika dimensioner
  • ML-modellens kvalitet beror på datans kvalitet
MLOps-koncept

Datakvalitetsdimensioner

  • Noggrannhet
  • Fullständighet
  • Konsistens
  • Aktualitet
MLOps-koncept

Exempel på datakvalitetsdimensioner

Dimension Exempelfråga Exempel på dimensionens kvalitet
Noggrannhet Beskriver vår data kunden korrekt? Kundens ålder i datan är 18, men är i verkligheten 32.
Fullständighet Saknas det kunddata? För 80 % av kunderna saknar vi efternamn.
Konsistens Används samma kunddefiniton i hela företaget? Kunden anges som aktiv i en databas men inte i en annan.
Aktualitet När finns kundernas orderdata tillgänglig? Kundorder synkroniseras i slutet av dagen och är inte tillgängliga i realtid.

Låg datakvalitet behöver inte innebära projektets död!

MLOps-koncept

Datainsamling

Datapipeline

MLOps-koncept

Nu kör vi en övning!

MLOps-koncept

Preparing Video For Download...