Gratulujeme!

Práce s chybějícími daty v R

Nicholas Tierney

Statistician

Kapitola 1

Co jsou chybějící hodnoty

Chybějící hodnoty jsou hodnoty, které měly být zaznamenány, ale nebyly.

Jak sumarizovat chybějící hodnoty

miss_var_summary(airquality)

A tibble: 6 x 3
  variable n_miss pct_miss 
  <chr>     <int>    <dbl> 
1 Ozone        37    24.2  
2 Solar.R       7     4.58 
3 Wind          0     0    
4 Temp          0     0    
5 Month         0     0    
6 Day           0     0

Kapitola 1

vis_miss(airquality)

gg_miss_var(airquality, facet=Month)

Kapitola 2

Vyhledání alternativních chybějících hodnot

miss_scan_count(data = pacman, 
                search = list("N/A"))

Nahrazení alternativních chybějících hodnot

replace_with_na(pacman, 
                replace = list(
                  year = c("N/A"),
                  score = c("N/A")))

Implicitní chybějící hodnoty

frogger_tidy <- frogger %>% 
  complete(time, name)

Závislost chybějících dat

MCAR
MAR
MNAR

Kapitola 3

stínová matice, nabular data

nabular(airquality)

 # A tibble: 153 x 12
    Ozone Solar.R  Wind  Temp 
    <int>   <int> <dbl> <int> 
  1   41     190   7.4    67  
  2   36     118   8      72  
  3   12     149  12.6    74  
 # ... with 150 more rows, and 3 
 # more variables: Month <int>, Day <int>,
 # Ozone_NA <fct>, Solar.R_NA <fct>, 
 # Wind_NA <fct>, Temp_NA <fct>,
 # Month_NA <fct>, Day_NA <fct>

Zkoumání chybějících hodnot, propojení souhrnů s hodnotami dat

oceanbuoys %>%
  bind_shadow() %>%
  group_by(humidity_NA) %>%
  summarize(
    wind_ew_mean = mean(wind_ew))

 # A tibble: 2 x 2
   humidity_NA wind_ew_mean
   <fct>              <dbl>
 1 !NA                -3.78
 2 NA                 -3.30

Kapitola 3

Změny hodnot v závislosti na chybějících datech.

nabular(oceanbuoys) %>%
  ggplot(aes(x = wind_ew, 
             color = air_temp_c_NA)) + 
  geom_density()

hustota ggplot podle teploty vzduchu

Vizualizace chybějících hodnot napříč 2 proměnnými.

ggplot(oceanbuoys,
       aes(x = wind_ew,
           y = air_temp_c)) + 
  geom_miss_point()

gg-miss-point

Kapitola 4

Dobrá a špatná imputace

naniar::impute_mean_all()
simputation::impute_lm()

obrázek imputace průměrem

Porovnání imputovaných a původních hodnot

ggplot(ocean_imp_track, 
       aes(x = air_temp_c, 
           fill = air_temp_c_NA)) + 
  geom_histogram()

histogram imputace

Kapitola 4

Použití různých imputačních modelů

porovnání imputace lineárním modelem a imputace průměrem

Vliv imputačních modelů na následné inference

# A tibble: 12 x 6
   imp_model term  estimate
   <chr>     <chr>    <dbl>
 1 cc        (Int… -7.35e+2
 2 cc        air_…  8.64e-1
 3 cc        humi…  3.41e-2
 4 cc        year   3.69e-1
 5 imp_lm_w… (Int… -1.71e+3
 6 imp_lm_w… air_…  3.78e-1
# ... 6 more rows
# ... with 3 more variables:
#   std.error <dbl>,
#   statistic <dbl>,
#   p.value <dbl>

Toto je jen začátek!

naniar.njtierney.com

visdat.njtierney.com

mice R package

Flexible Imputation of Missing Data

Děkujeme!

Práce s chybějícími daty v R