Selecția modelelor: modele de regresie

Exersează întrebări de interviu pentru Machine Learning în Python

Lisa Stuart

Data Scientist

Multicolinearitate

  • Corelație ridicată între variabilele independente
  • Coeficienți de regresie estimați
    • Variația în VD explicată de VI
    • Cu celelalte variabile constante

Multicolinearitate

1 https://eigenblogger.com/2010/03/26/post1426/
Exersează întrebări de interviu pentru Machine Learning în Python

Efectele multicolinearității

  • Reducerea coeficienților
  • Reducerea valorilor p
  • Varianță instabilă
  • Supraajustare
  • Semnificație statistică scăzută din cauza erorii standard crescute
  • Relația reală cu variabila țintă neclară
Exersează întrebări de interviu pentru Machine Learning în Python

Tehnici pentru tratarea multicolinearității

  • Matrice de corelație
  • Hartă termică a corelațiilor
  • Calculul factorului de inflație a varianței (VIF)
  • Introducerea penalizărilor (Ridge, Lasso)
  • PCA
Exersează întrebări de interviu pentru Machine Learning în Python

Matrice de corelație vs. hartă termică

Matrice de corelație

Exersează întrebări de interviu pentru Machine Learning în Python

Factorul de inflație a varianței

Valoare VIF Multicolinearitate
<= 1 nu
> 1 da, dar se poate ignora
> 5 da, trebuie tratată
Exersează întrebări de interviu pentru Machine Learning în Python

Funcții

Funcție/metodă returnează
sklearn.linear_model.LinearRegression Regresie liniară
data.corr() matrice de corelație
sns.heatmap(corr) hartă termică a corelațiilor
mod.coef_ coeficienții estimați ai modelului
mean_squared_error(y_test, y_pred) MSE
r2_score(y_test, y_pred) scorul R-pătrat
df.columns numele coloanelor
Exersează întrebări de interviu pentru Machine Learning în Python

Să exersăm!

Exersează întrebări de interviu pentru Machine Learning în Python

Preparing Video For Download...