Wyszukiwanie i zastępowanie brakujących wartości

Praca z brakującymi danymi w R

Nicholas Tierney

Statistician

Zakres materiału

Jak wyszukiwać ukryte brakujące wartości
Zastępowanie etykiet braków danych przez NA
Weryfikacja założeń dotyczących braków danych

Wyszukiwanie i zastępowanie brakujących wartości

Idealnie = NA
Braki danych mogą być kodowane błędnie: np. "missing", "Not Available", "N/A"
Zakładanie, że braki są kodowane jako NA to błąd.

Analiza chaosu

score	grade	place
3	N/A	-99
-99	E	97
4	missing	95
-99	na	92
7	n/a	-98
10		missing
12	.	88
16		.
9	N/a	86

Wyszukiwanie brakujących wartości

miss_scan_count()

chaos %>%
  miss_scan_count(search = list("N/A"))

# A tibble: 3 x 2
  Variable     n
  <chr>    <int>
1 score        0
2 grade        1
3 place        0

Wyszukiwanie brakujących wartości

chaos %>%
  miss_scan_count(search = list("N/A",
                                "N/a"))

# A tibble: 3 x 2
  Variable     n
  <chr>    <int>
1 score        0
2 grade        2
3 place        0

Zastępowanie brakujących wartości

chaos %>%
  replace_with_na(replace = list(grade = c("N/A", "N/a")))

# A tibble: 9 x 3
  score grade   place  
  <dbl> <chr>   <chr>  
1     3 NA      -99    
2   -99 E       97     
3     4 missing 95     
4   -99 na      92     
5     7 n/a     -98    
6    10 " "     missing
7    12 .       88     
8    16 ""      .      
9     9 NA      86

"Warianty zakresowe" replace_with_na

replace_with_na może być powtarzalne:
- Stosowane dla wielu zmiennych i wartości
- Złożone przypadki, np. wartości mniejsze niż -1 lub tylko kolumny tekstowe.
replace_with_na_all() Wszystkie zmienne.
replace_with_na_at() Wybrany podzbiór zmiennych.
replace_with_na_if() Zmienne spełniające warunek (numeryczne, tekstowe).

Użycie wariantów zakresowych replace_with_na

chaos %>%
  replace_with_na_all(condition = ~.x == -99)

# A tibble: 9 x 3
  score grade   place  
  <dbl> <chr>   <chr>  
1     3 N/A     NA     
2    NA E       97     
3     4 missing 95     
4    NA na      92     
5     7 n/a     -98    
6    10 " "     missing
7    12 .       88     
8    16 ""      .      
9     9 N/a     86

Użycie wariantów zakresowych replace_with_na

chaos %>% 
  replace_with_na_all(condition = ~.x %in% c("N/A", "missing", "na"))

# A tibble: 9 x 3
  score grade place
  <dbl> <chr> <chr>
1     3 NA    -99  
2   -99 E     97   
3     4 NA    95   
4   -99 NA    92   
5     7 n/a   -98  
6    10 " "   NA   
7    12 .     88   
8    16 ""    .    
9     9 N/a   86

Czas na ćwiczenia!

Praca z brakującymi danymi w R