Nettoyage des données

Concepts liés à l'entreposage de données

Aaren Stubberfield

Data Scientist

Plan de la vidéo

  • Révision du format des données
  • Analyse des adresses
  • Validation des données
  • Élimination des doublons
Concepts liés à l'entreposage de données

Nettoyage du format des données

  • Mettre à jour selon le format prévu
    • Dates
    • Noms d'options
    • Majuscules/minuscules
  • Assure une sortie au format uniforme

Exemple : données de taxi

Deux tables combinées en une

Concepts liés à l'entreposage de données

Analyse d'adresse

  • Diviser une adresse civique en composantes
  • Outils possibles pour valider les adresses
Adresse
1234 S Normal St, Cleveland, OH 44102
Adresse Ville État Code postal
1234 S Normal St Cleveland OH 44102
Concepts liés à l'entreposage de données

Validation des données

  • Vérification d'intervalle
    • La valeur est-elle dans l'intervalle attendu ?
    • Exemple : âge d'une personne
  • Vérification de type
    • La valeur est-elle du bon type ?
    • Exemple : âge stocké en texte vs nombre

Tableau d'âges où la première ligne (300) est signalée comme non valide.

Tableau à trois colonnes avec « Age » comme première colonne, de type texte, signalé comme non valide.

Concepts liés à l'entreposage de données

Élimination des lignes en double

  • Ce processus élimine les entrées en double

image de deux tables avec deux colonnes à concaténer

table finale concaténée sans la ligne en double

Concepts liés à l'entreposage de données

Gouvernance des données

Illustration de conformité réglementaire

Concepts liés à l'entreposage de données

Passons à la pratique !

Concepts liés à l'entreposage de données

Preparing Video For Download...