Основы прогностического моделирования

Моделирование данных в Tidyverse

Albert Y. Kim

Assistant Professor of Statistical and Data Sciences

Пример прогностической модели

Набор данных о ценах на жильё в округе Кинг, штат Вашингтон, вблизи Сиэтла (доступен на Kaggle.com).

Вопрос: Можно ли предсказать цену продажи дома по его характеристикам?

Переменные:

$y$: Цена продажи дома price в долларах США
$\vec{x}$: Признаки: sqft_living, condition, bedrooms, yr_built, waterfront

Пример прогностической модели

Из пакета moderndive для ModernDive:

library(dplyr)
library(moderndive)
glimpse(house_prices)

Observations: 21,613
Variables: 21
$ id            <chr> "7129300520", "6414100192"...
$ date          <dttm> 2014-10-13, 2014-12-09, 2015...
$ price         <dbl> 221900, 538000, 180000, 604000...
...

Разведочный анализ данных

library(ggplot2)
ggplot(house_prices, aes(x = price)) +
  geom_histogram() + 
  labs(x = "house price", y = "count")

Гистограмма целевой переменной

Данные Gapminder

Масштабирование оси X по log10

Преобразование log10

# log10() transform price and size
house_prices <- house_prices %>%
  mutate(log10_price = log10(price)) %>% 
  select(price, log10_price)

# A tibble: 21,613 x 2
     price log10_price
     <dbl>       <dbl>
 1  221900        5.35
 2  538000        5.73
 3  180000        5.26
 4  604000        5.78
 5  510000        5.71
 6 1225000        6.09

Гистограмма новой целевой переменной

# Histogram of original outcome variable
ggplot(house_prices, aes(x = price)) +
  geom_histogram() + 
  labs(x = "house price", y = "count")

# Histogram of new, log10-transformed outcome variable
ggplot(house_prices, aes(x = log10_price)) +
  geom_histogram() + 
  labs(x = "log10 house price", y = "count")

Сравнение до и после преобразования log10

Давайте потренируемся!

Моделирование данных в Tidyverse