Odstranění vysoce korelovaných příznaků

Redukce dimenzionality v Pythonu

Jeroen Boeye

Head of Machine Learning, Faktion

Vysoce korelovaná data

párový graf vysoce korelovaných dat

Vysoce korelované příznaky

matice vysoce korelovaných příznaků

Odstranění vysoce korelovaných příznaků

# Create positive correlation matrix
corr_df = chest_df.corr().abs()

# Create and apply mask
mask = np.triu(np.ones_like(corr_df, dtype=bool))

tri_df = corr_df.mask(mask)

tri_df

Odstranění vysoce korelovaných příznaků

# Find columns that meet threshold 
to_drop = [c for c in tri_df.columns if any(tri_df[c] > 0.95)]

print(to_drop)

['Suprasternale height', 'Cervicale height']

# Drop those columns
reduced_df = chest_df.drop(to_drop, axis=1)

Výběr příznaků

Schéma výběru příznaků

Extrakce příznaků

Schéma extrakce příznaků

Úskalí korelace – Anscombeův kvartet

Anscombeův kvartet

Úskalí korelace – kauzalita

sns.scatterplot(x="N firetrucks sent to fire", 
                y="N wounded by fire",data=fire_df)

hasičská auta vs. zranění

Lass uns üben!

Redukce dimenzionality v Pythonu