Поздравляем!

Работа с пропущенными данными в R

Nicholas Tierney

Statistician

Глава 1

Что такое пропущенные значения

Пропущенные значения — это данные, которые должны были быть записаны, но не были.

Как анализировать пропущенные значения

miss_var_summary(airquality)

A tibble: 6 x 3
  variable n_miss pct_miss 
  <chr>     <int>    <dbl> 
1 Ozone        37    24.2  
2 Solar.R       7     4.58 
3 Wind          0     0    
4 Temp          0     0    
5 Month         0     0    
6 Day           0     0

Глава 1

vis_miss(airquality)

gg_miss_var(airquality, facet=Month)

Глава 2

Поиск нестандартных пропущенных значений

miss_scan_count(data = pacman, 
                search = list("N/A"))

Замена нестандартных пропущенных значений

replace_with_na(pacman, 
                replace = list(
                  year = c("N/A"),
                  score = c("N/A")))

Неявные пропущенные значения

frogger_tidy <- frogger %>% 
  complete(time, name)

Зависимость пропущенных данных

MCAR
MAR
MNAR

Глава 3

теневая матрица, набулярные данные

nabular(airquality)

 # A tibble: 153 x 12
    Ozone Solar.R  Wind  Temp 
    <int>   <int> <dbl> <int> 
  1   41     190   7.4    67  
  2   36     118   8      72  
  3   12     149  12.6    74  
 # ... with 150 more rows, and 3 
 # more variables: Month <int>, Day <int>,
 # Ozone_NA <fct>, Solar.R_NA <fct>, 
 # Wind_NA <fct>, Temp_NA <fct>,
 # Month_NA <fct>, Day_NA <fct>

Анализ пропусков: связь сводных показателей со значениями данных

oceanbuoys %>%
  bind_shadow() %>%
  group_by(humidity_NA) %>%
  summarize(
    wind_ew_mean = mean(wind_ew))

 # A tibble: 2 x 2
   humidity_NA wind_ew_mean
   <fct>              <dbl>
 1 !NA                -3.78
 2 NA                 -3.30

Глава 3

Как значения меняются при наличии пропусков.

nabular(oceanbuoys) %>%
  ggplot(aes(x = wind_ew, 
             color = air_temp_c_NA)) + 
  geom_density()

График плотности ggplot по температуре воздуха

Визуализация пропусков по двум переменным.

ggplot(oceanbuoys,
       aes(x = wind_ew,
           y = air_temp_c)) + 
  geom_miss_point()

gg-miss-point

Глава 4

Удачное и неудачное вменение

naniar::impute_mean_all()
simputation::impute_lm()

impuate-mean-image

Сравнение вменённых и исходных значений

ggplot(ocean_imp_track, 
       aes(x = air_temp_c, 
           fill = air_temp_c_NA)) + 
  geom_histogram()

impute-hist

Глава 4

Использование различных моделей вменения

сравнение вменения линейной моделью и вменения средним значением

Влияние моделей вменения на последующие выводы

# A tibble: 12 x 6
   imp_model term  estimate
   <chr>     <chr>    <dbl>
 1 cc        (Int… -7.35e+2
 2 cc        air_…  8.64e-1
 3 cc        humi…  3.41e-2
 4 cc        year   3.69e-1
 5 imp_lm_w… (Int… -1.71e+3
 6 imp_lm_w… air_…  3.78e-1
# ... 6 more rows
# ... with 3 more variables:
#   std.error <dbl>,
#   statistic <dbl>,
#   p.value <dbl>

Это только начало!

naniar.njtierney.com

visdat.njtierney.com

mice R package

Flexible Imputation of Missing Data

Спасибо!

Работа с пропущенными данными в R