Contraintes de plage

Nettoyer des données avec R

Maggie Matsui

Content Developer @ DataCamp

Qu'est-ce qu'une valeur hors plage ?

Note SAT : 400–1600
Poids d'un colis : au moins 0 lb/kg
Fréquence cardiaque adulte : 60–100 battements/minute

Repérer les valeurs hors plage

movies

  title                 avg_rating
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.8
6 Gone in Sixty Seconds        3.3
...

Repérer les valeurs hors plage

breaks <- c(min(movies$avg_rating), 0, 5, max(movies$avg_rating))

ggplot(movies, aes(avg_rating)) +
    geom_histogram(breaks = breaks)

Histogramme à trois classes produit par le code, avec une valeur trop basse, six valeurs dans la plage et deux trop hautes.

Repérer les valeurs hors plage

library(assertive)
assert_all_are_in_closed_range(movies$avg_rating, lower = 0, upper = 5)

Error: is_in_closed_range : movies$avg_rating are not all in the range [0,5].
There were 3 failures:
  Position Value    Cause
1        5   5.8 too high
2        8   6.2 too high
3        9  -4.4  too low

Gérer les valeurs hors plage

Supprimer des lignes
Traiter comme manquante (NA)
Remplacer par la limite de la plage
Remplacer selon l'expertise du domaine et/ou la connaissance du jeu de données

Suppression de lignes

movies %>%
  filter(avg_rating >= 0, avg_rating <= 5) %>%


  ggplot(aes(avg_rating)) +
  geom_histogram(breaks = c(min(movies$avg_rating), 0, 5, max(movies$avg_rating)))

Histogramme produit par le code avec six valeurs dans la plage, et 0 en dessous ou au-dessus des limites.

Traiter comme manquante

movies

  title                 avg_rating
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.8
6 Gone in Sixty Seconds        3.3
...

replace(col, condition, replacement)

movies %>%
  mutate(rating_miss = 
    replace(avg_rating, avg_rating > 5, NA))

  title                rating_miss
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                   NA
6 Gone in Sixty Seconds        3.3
...

Remplacer les valeurs hors plage

movies %>%
  mutate(rating_const = 
           replace(avg_rating, avg_rating > 5, 5))

  title               rating_const
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.0
6 Gone in Sixty Seconds        3.3
...

Contraintes de plage de dates

assert_all_are_in_past(movies$date_recorded)

Error: is_in_past : movies$date_recorded are not all in the past.
There was 1 failure:
  Position               Value     Cause
1        3 2064-09-22 20:00:00 in future

library(lubridate)
movies %>%
  filter(date_recorded > today())

    title  avg_rating  date_recorded
1  Amelie         4.2  2064-09-23

Supprimer les dates hors plage

library(lubridate)
movies <- movies %>%
  filter(date_recorded <= today())

library(assertive)
assert_all_are_in_past(movies$date_recorded)

Rappel : aucune sortie = test réussi !

Passons à la pratique !

Nettoyer des données avec R