Varför hantera saknade data?

Hantera saknade värden i Python

Suraj Donthi

Deep Learning & Computer Vision Consultant

Varför finns det saknade data?

  • Verkliga data är ofta röriga

Visste du att 72 % av organisationer anser att datakvalitetsproblem skadar kundernas förtroende?

1 [Top 9 Benefits of Data Cleansing for Businesses](https://bit.ly/2QwMrab)
Hantera saknade värden i Python

Varför finns det saknade data?

  • Värden missas under datainsamlingen
    • Felaktiga vädersensorer vid väderanalys
    • Ofullständig patientinformation vid medicinsk diagnos m.m.
  • Värden raderas av misstag
    • Dataförlust
    • Oavsiktlig borttagning på grund av mänskligt fel
Hantera saknade värden i Python

Det här lär du dig i kursen

  • vikten av att hantera saknade värden
  • hur du identifierar saknade värden i röriga data
  • hur du analyserar typen av saknad data
  • hur du hanterar saknade värden på rätt sätt för
    • numeriska
    • tidsseriedata
    • kategoriska värden
Hantera saknade värden i Python

Det här lär du dig i kursen

  • hur du imputerar (ersätter) saknade värden med enkla metoder
  • hur du imputerar med avancerade metoder
  • hur du slutligen utvärderar den bästa metoden för att hantera saknade värden
Hantera saknade värden i Python

Arbetsflöde för att hantera saknade värden

  1. Konvertera alla saknade värden till null-värden.
  2. Analysera mängden och typen av saknad data.
  3. Ta bort eller imputera saknade värden på lämpligt sätt.
  4. Utvärdera och jämför prestandan hos det behandlade/imputerade datasetet.
Hantera saknade värden i Python

NULL-värdesoperationer

None

None or True # Same for False
True
None + True # For all operators
TypeError: unsupported operand
None / 3 # For all operators
TypeError: unsupported operand
type(None)
NoneType

np.nan

import numpy as np
np.nan or True  # Same for False
nan
np.nan * True # For all operators
nan
np.nan - 3 # For all operators
nan
type(np.nan)
float
Hantera saknade värden i Python

NULL-värdesoperationer

None

None == None
True
np.isnan(None)
False

np.nan

np.nan == np.nan
False
np.isnan(np.nan)
True
Hantera saknade värden i Python

Nu kör vi en övning!

Hantera saknade värden i Python

Preparing Video For Download...