Výběr modelu: regresní modely

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Lisa Stuart

Data Scientist

Multikolinearita

  • Vysoká korelace nezávislých proměnných
  • Odhadnuté regresní koeficienty
    • Změna ZP vysvětlená NP
    • Při konstantních ostatních proměnných

Multikolinearita

1 https://eigenblogger.com/2010/03/26/post1426/
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Dopady multikolinearity

  • Zkreslení koeficientů
  • Snížení p-hodnot
  • Nestabilní rozptyl
  • Přetrénování modelu
  • Snížená statistická významnost kvůli vyšší standardní chybě
  • Nejasný skutečný vztah s cílovou proměnnou
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Metody pro řešení multikolinearity

  • Korelační matice
  • Teplotní mapa korelací
  • Výpočet faktoru VIF
  • Penalizace (Ridge, Lasso)
  • PCA
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Korelační matice vs. teplotní mapa

Korelační matice

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Faktor variance inflation (VIF)

Hodnota VIF Multikolinearita
<= 1 ne
> 1 ano, ale lze ignorovat
> 5 ano, je třeba řešit
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Funkce

Funkce/metoda vrací
sklearn.linear_model.LinearRegression lineární regresi
data.corr() korelační matici
sns.heatmap(corr) teplotní mapu korelací
mod.coef_ odhadnuté koeficienty modelu
mean_squared_error(y_test, y_pred) MSE
r2_score(y_test, y_pred) koeficient determinace R²
df.columns názvy sloupců
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Pojďme si procvičit!

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Preparing Video For Download...