Transformando entradas antes da modelagem

Aprendizado Supervisionado em R: Regressão

Nina Zumel and John Mount

Win-Vector LLC

Por que transformar variáveis de entrada

  • Conhecimento do domínio/variáveis sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
Aprendizado Supervisionado em R: Regressão

Por que transformar variáveis de entrada

  • Conhecimento do domínio/variáveis sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Razões pragmáticas
    • Transformação log para reduzir a faixa dinâmica
    • Transformação log quando mudanças relevantes são multiplicativas
Aprendizado Supervisionado em R: Regressão

Por que transformar variáveis de entrada

  • Conhecimento do domínio/variáveis sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Razões pragmáticas
    • Transformação log para reduzir a faixa dinâmica
    • Transformação log quando mudanças relevantes são multiplicativas
    • $y$ aproximadamente linear em $f(x)$ em vez de em $x$
Aprendizado Supervisionado em R: Regressão

Exemplo: prevendo ansiedade

Aprendizado Supervisionado em R: Regressão

Transformando a variável hassles

Aprendizado Supervisionado em R: Regressão

Vários ajustes possíveis

Qual é melhor?

  • anx ~ I(hassles^2)
  • anx ~ I(hassles^3)
  • anx ~ I(hassles^2) + I(hassles^3)
  • anx ~ exp(hassles)
  • ...

I(): tratar a expressão literalmente (não como interação)

Aprendizado Supervisionado em R: Regressão

Compare diferentes modelos

Modelos linear, quadrático e cúbico

mod_lin <- lm(anx ~ hassles, hassleframe)
summary(mod_lin)$r.squared

0.5334847

mod_quad <- lm(anx ~ I(hassles^2), hassleframe)
summary(mod_quad)$r.squared

0.6241029

mod_tritic <- lm(anx ~ I(hassles^3), hassleframe)
summary(mod_tritic)$r.squared

0.6474421
Aprendizado Supervisionado em R: Regressão

Compare diferentes modelos

Use validação cruzada para avaliar os modelos

Model RMSE
Linear ($hassles$) 7.69
Quadrático ($hassles^2$) 6.89
Cúbico ($hassles^3$) 6.70
Aprendizado Supervisionado em R: Regressão

Vamos praticar!

Aprendizado Supervisionado em R: Regressão

Preparing Video For Download...