Vincoli di intervallo

Pulizia dei dati in R

Maggie Matsui

Content Developer @ DataCamp

Cos'è un valore fuori intervallo?

Punteggio SAT: 400-1600
Peso del pacco: almeno 0 lb/kg
Frequenza cardiaca adulta: 60-100 battiti al minuto

Trovare valori fuori intervallo

movies

  title                 avg_rating
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.8
6 Gone in Sixty Seconds        3.3
...

Trovare valori fuori intervallo

breaks <- c(min(movies$avg_rating), 0, 5, max(movies$avg_rating))

ggplot(movies, aes(avg_rating)) +
    geom_histogram(breaks = breaks)

Istogramma con tre classi prodotto dal codice: un valore troppo basso, sei nel range e due troppo alti.

Trovare valori fuori intervallo

library(assertive)
assert_all_are_in_closed_range(movies$avg_rating, lower = 0, upper = 5)

Error: is_in_closed_range : movies$avg_rating are not all in the range [0,5].
There were 3 failures:
  Position Value    Cause
1        5   5.8 too high
2        8   6.2 too high
3        9  -4.4  too low

Gestire valori fuori intervallo

Rimuovi le righe
Tratta come mancanti (NA)
Sostituisci con il limite dell'intervallo
Sostituisci con altro valore in base alla conoscenza del dominio e/o del dataset

Rimozione delle righe

movies %>%
  filter(avg_rating >= 0, avg_rating <= 5) %>%


  ggplot(aes(avg_rating)) +
  geom_histogram(breaks = c(min(movies$avg_rating), 0, 5, max(movies$avg_rating)))

Istogramma prodotto dal codice con sei valori nel range e 0 valori sotto o sopra i limiti.

Trattare come mancanti

movies

  title                 avg_rating
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.8
6 Gone in Sixty Seconds        3.3
...

replace(col, condition, replacement)

movies %>%
  mutate(rating_miss = 
    replace(avg_rating, avg_rating > 5, NA))

  title                rating_miss
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                   NA
6 Gone in Sixty Seconds        3.3
...

Sostituire i valori fuori intervallo

movies %>%
  mutate(rating_const = 
           replace(avg_rating, avg_rating > 5, 5))

  title               rating_const
  <chr>                      <dbl>
1 A Beautiful Mind             4.1
2 La Vita e Bella              4.3
3 Amelie                       4.2
4 Meet the Parents             3.5
5 Unbreakable                  5.0
6 Gone in Sixty Seconds        3.3
...

Vincoli su intervalli di date

assert_all_are_in_past(movies$date_recorded)

Error: is_in_past : movies$date_recorded are not all in the past.
There was 1 failure:
  Position               Value     Cause
1        3 2064-09-22 20:00:00 in future

library(lubridate)
movies %>%
  filter(date_recorded > today())

    title  avg_rating  date_recorded
1  Amelie         4.2  2064-09-23

Rimozione di date fuori intervallo

library(lubridate)
movies <- movies %>%
  filter(date_recorded <= today())

library(assertive)
assert_all_are_in_past(movies$date_recorded)

Ricorda, nessun output = superato!

Esercitiamoci!

Pulizia dei dati in R