Modellval: regressionsmodeller

Öva på maskininlärningsintervjufrågor i Python

Lisa Stuart

Data Scientist

Multikolinjäritet

• Hög korrelation mellan oberoende variabler
• Skattade regressionskoefficienter
  • Förändring i BV förklarad av OV
  • Medan övriga variabler hålls konstanta

¹ https://eigenblogger.com/2010/03/26/post1426/

Effekter av multikolinjäritet

• Reducerade koefficienter
• Reducerade p-värden
• Instabil varians
• Överanpassning
• Minskad statistisk signifikans på grund av ökade standardfel
• Det sanna sambandet med målvariabeln blir oklart

Metoder för att hantera multikolinjäritet

• Korrelationsmatris
• Värmekarta över korrelationer
• Beräkna variansinfaktorn (VIF)
• Inför penaliseringar (Ridge, Lasso)
• PCA

Korrelationsmatris jämfört med värmekarta

Variansinfaktorn

VIF-värde	Multikolinjäritet
<= 1	nej
> 1	ja, men kan ignoreras
> 5	ja, behöver åtgärdas

Funktioner

Funktion/metod	returnerar
sklearn.linear_model.LinearRegression	linjär regression
data.corr()	korrelationsmatris
sns.heatmap(corr)	värmekarta över korrelationer
mod.coef_	skattade modellkoefficienter
mean_squared_error(y_test, y_pred)	MSE
r2_score(y_test, y_pred)	R²-värde
df.columns	kolumnnamn

Nu kör vi en övning!

Öva på maskininlärningsintervjufrågor i Python