Transformace vstupů před modelováním

Supervised Learning in R: Regression

Nina Zumel and John Mount

Win-Vector LLC

Proč transformovat vstupní proměnné

  • Znalost domény / syntetické proměnné
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
Supervised Learning in R: Regression

Proč transformovat vstupní proměnné

  • Znalost domény / syntetické proměnné
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Pragmatické důvody
    • Logaritmická transformace ke snížení dynamického rozsahu
    • Logaritmická transformace, pokud jsou změny proměnné multiplikativní
Supervised Learning in R: Regression

Proč transformovat vstupní proměnné

  • Znalost domény / syntetické proměnné
    • $Intelligence \sim \frac{mass.brain}{mass.body^{2/3}}$
  • Pragmatické důvody
    • Logaritmická transformace ke snížení dynamického rozsahu
    • Logaritmická transformace, pokud jsou změny proměnné multiplikativní
    • $y$ je přibližně lineární v $f(x)$, nikoli v $x$
Supervised Learning in R: Regression

Příklad: Předpovídání úzkosti

Supervised Learning in R: Regression

Transformace proměnné hassles

Supervised Learning in R: Regression

Různé možné modely

Která je nejlepší?

  • anx ~ I(hassles^2)
  • anx ~ I(hassles^3)
  • anx ~ I(hassles^2) + I(hassles^3)
  • anx ~ exp(hassles)
  • ...

I(): výraz je interpretován doslova (ne jako interakce)

Supervised Learning in R: Regression

Porovnání modelů

Lineární, kvadratický a kubický model

mod_lin <- lm(anx ~ hassles, hassleframe)
summary(mod_lin)$r.squared
0.5334847
mod_quad <- lm(anx ~ I(hassles^2), hassleframe)
summary(mod_quad)$r.squared
0.6241029
mod_tritic <- lm(anx ~ I(hassles^3), hassleframe)
summary(mod_tritic)$r.squared
0.6474421
Supervised Learning in R: Regression

Porovnání modelů

Vyhodnocení modelů pomocí křížové validace

Model RMSE
Lineární ($hassles$) 7,69
Kvadratický ($hassles^2$) 6,89
Kubický ($hassles^3$) 6,70
Supervised Learning in R: Regression

Pojďme si procvičit!

Supervised Learning in R: Regression

Preparing Video For Download...