Vyhledávání a nahrazování chybějících hodnot

Práce s chybějícími daty v R

Nicholas Tierney

Statistician

Co budeme probírat

Jak hledat skryté chybějící hodnoty
Nahrazování označení chybějících hodnot za NA
Ověřování předpokladů o chybějících hodnotách

Vyhledávání a nahrazování chybějících hodnot

Ideální stav = NA
Chybějící hodnoty mohou být nesprávně zakódovány: např. "missing", "Not Available", "N/A"
Předpoklad, že chybějící hodnoty jsou zakódovány jako NA, je chybný.

Porozumění chaotickým datům

score	grade	place
3	N/A	-99
-99	E	97
4	missing	95
-99	na	92
7	n/a	-98
10		missing
12	.	88
16		.
9	N/a	86

Vyhledávání chybějících hodnot

miss_scan_count()

chaos %>%
  miss_scan_count(search = list("N/A"))

# A tibble: 3 x 2
  Variable     n
  <chr>    <int>
1 score        0
2 grade        1
3 place        0

Vyhledávání chybějících hodnot

chaos %>%
  miss_scan_count(search = list("N/A",
                                "N/a"))

# A tibble: 3 x 2
  Variable     n
  <chr>    <int>
1 score        0
2 grade        2
3 place        0

Nahrazování chybějících hodnot

chaos %>%
  replace_with_na(replace = list(grade = c("N/A", "N/a")))

# A tibble: 9 x 3
  score grade   place  
  <dbl> <chr>   <chr>  
1     3 NA      -99    
2   -99 E       97     
3     4 missing 95     
4   -99 na      92     
5     7 n/a     -98    
6    10 " "     missing
7    12 .       88     
8    16 ""      .      
9     9 NA      86

"Rozsahové varianty" replace_with_na

replace_with_na může být opakující se:
- Použití napříč mnoha proměnnými a hodnotami
- Složité případy, nahrazení hodnot menších než -1, pouze u znakových sloupců.
replace_with_na_all() Všechny proměnné.
replace_with_na_at() Vybraná podmnožina proměnných.
replace_with_na_if() Proměnné splňující podmínku (numerické, znakové).

Použití rozsahových variant replace_with_na

chaos %>%
  replace_with_na_all(condition = ~.x == -99)

# A tibble: 9 x 3
  score grade   place  
  <dbl> <chr>   <chr>  
1     3 N/A     NA     
2    NA E       97     
3     4 missing 95     
4    NA na      92     
5     7 n/a     -98    
6    10 " "     missing
7    12 .       88     
8    16 ""      .      
9     9 N/a     86

Použití rozsahových variant replace_with_na

chaos %>% 
  replace_with_na_all(condition = ~.x %in% c("N/A", "missing", "na"))

# A tibble: 9 x 3
  score grade place
  <dbl> <chr> <chr>
1     3 NA    -99  
2   -99 E     97   
3     4 NA    95   
4   -99 NA    92   
5     7 n/a   -98  
6    10 " "   NA   
7    12 .     88   
8    16 ""    .    
9     9 N/a   86

Pojďme procvičovat!

Práce s chybějícími daty v R