Transformace odezvy před modelováním

Supervised Learning in R: Regression

Nina Zumel and John Mount

Win-Vector, LLC

Logaritmická transformace peněžních dat

Peněžní hodnoty: lognormální rozdělení
Dlouhý ocas, široký dynamický rozsah (60–700 tis.)

Lognormální rozdělení

průměr > medián (cca 50 tis. vs 39 tis.)
Predikce průměru bude nadhodnocovat typické hodnoty

Zpět k normálnímu rozdělení

Pro normální rozdělení:

průměr = medián (zde: 4,53 vs 4,59)
rozumnější dynamický rozsah (1,8 – 5,8)

Postup

Zlogaritmujte výsledek a natrénujte model
```
 model <- lm(log(y) ~ x, data = train)
```

Postup

Zlogaritmujte výsledek a natrénujte model
```
 model <- lm(log(y) ~ x, data = train)
```
Vytvořte predikce v logaritmickém prostoru
```
 logpred <- predict(model, data = test)
```

Postup

Zlogaritmujte výsledek a natrénujte model
```
 model <- lm(log(y) ~ x, data = train)
```
Vytvořte predikce v logaritmickém prostoru
```
 logpred <- predict(model, data = test)
```
Transformujte predikce zpět do prostoru výsledků
```
 pred <- exp(logpred)
```

Predikce logaritmicky transformovaných výsledků: multiplikativní chyba

$log(a) + log(b) = log(ab)$

$log(a) - log(b) = log(a/b)$

Multiplikativní chyba: $pred/y$
Relativní chyba: $(pred - y)/y = \frac{pred}{y} - 1$

Snížení multiplikativní chyby snižuje i relativní chybu.

Střední kvadratická relativní chyba (RMS)

RMS-relativní chyba = $\sqrt{ \overline{ (\frac{pred-y}{y})^2 }}$

Predikce log-výsledku snižuje RMS-relativní chybu
Model však bude mít často větší RMSE

Příklad: Přímý model příjmu

modIncome <- lm(Income ~ AFQT + Educ, data = train)

AFQT: Výsledek testu způsobilosti 25 let před průzkumem
Educ: Roky vzdělání do doby průzkumu
Income: Příjem v době průzkumu

Výkon modelu

test %>% 
+     mutate(pred = predict(modIncome, newdata = test),
+            err = pred - Income) %>%
+     summarize(rmse = sqrt(mean(err^2)),
+               rms.relerr = sqrt(mean((err/Income)^2)))

RMSE	RMS-relativní chyba
36 819,39	3,295189

Model log(Income)

modLogIncome <- lm(log(Income) ~ AFQT + Educ, data = train)

Výkon modelu

test %>% 
+     mutate(predlog = predict(modLogIncome, newdata = test), 
+            pred = exp(predlog), 
+            err = pred - Income) %>%
+     summarize(rmse = sqrt(mean(err^2)),
+               rms.relerr = sqrt(mean((err/Income)^2)))

RMSE	RMS-relativní chyba
38 906,61	2,276865

Porovnání chyb

Model log(Income): menší RMS-relativní chyba, větší RMSE

Model	RMSE	RMS-relativní chyba
Na `Income`	36 819,39	3,295189
Na `log(Income)`	38 906,61	2,276865

Pojďme procvičovat!

Supervised Learning in R: Regression