Transformar las variables de entrada antes de modelar

Aprendizaje supervisado en R: Regresión

Nina Zumel and John Mount

Win-Vector LLC

Por qué transformar variables de entrada

  • Conocimiento del dominio/variables sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
Aprendizaje supervisado en R: Regresión

Por qué transformar variables de entrada

  • Conocimiento del dominio/variables sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Razones pragmáticas
    • Transformación log para reducir el rango dinámico
    • Transformación log cuando los cambios relevantes son multiplicativos
Aprendizaje supervisado en R: Regresión

Por qué transformar variables de entrada

  • Conocimiento del dominio/variables sintéticas
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Razones pragmáticas
    • Transformación log para reducir el rango dinámico
    • Transformación log cuando los cambios relevantes son multiplicativos
    • $y$ es aproximadamente lineal en $f(x)$ en lugar de en $x$
Aprendizaje supervisado en R: Regresión

Ejemplo: predecir ansiedad

Aprendizaje supervisado en R: Regresión

Transformar la variable hassles

Aprendizaje supervisado en R: Regresión

Ajustes posibles

¿Cuál es mejor?

  • anx ~ I(hassles^2)
  • anx ~ I(hassles^3)
  • anx ~ I(hassles^2) + I(hassles^3)
  • anx ~ exp(hassles)
  • ...

I(): tratar una expresión literalmente (no como interacción)

Aprendizaje supervisado en R: Regresión

Comparar distintos modelos

Modelos lineal, cuadrático y cúbico

mod_lin <- lm(anx ~ hassles, hassleframe)
summary(mod_lin)$r.squared

0.5334847

mod_quad <- lm(anx ~ I(hassles^2), hassleframe)
summary(mod_quad)$r.squared

0.6241029

mod_tritic <- lm(anx ~ I(hassles^3), hassleframe)
summary(mod_tritic)$r.squared

0.6474421
Aprendizaje supervisado en R: Regresión

Comparar distintos modelos

Usa validación cruzada para evaluar los modelos

Modelo RMSE
Lineal ($hassles$) 7.69
Cuadrático ($hassles^2$) 6.89
Cúbico ($hassles^3$) 6.70
Aprendizaje supervisado en R: Regresión

¡Vamos a practicar!

Aprendizaje supervisado en R: Regresión

Preparing Video For Download...