Ta bort högt korrelerade särdrag

Dimensionsreduktion i Python

Jeroen Boeye

Head of Machine Learning, Faktion

Högt korrelerade data

Pairplot med hög korrelation

Högt korrelerade särdrag

Högt korrelerad matris

Ta bort högt korrelerade särdrag

# Create positive correlation matrix
corr_df = chest_df.corr().abs()

# Create and apply mask
mask = np.triu(np.ones_like(corr_df, dtype=bool))

tri_df = corr_df.mask(mask)

tri_df

Ta bort högt korrelerade särdrag

# Find columns that meet threshold 
to_drop = [c for c in tri_df.columns if any(tri_df[c] > 0.95)]

print(to_drop)

['Suprasternale height', 'Cervicale height']

# Drop those columns
reduced_df = chest_df.drop(to_drop, axis=1)

Särdragsurval

Schema för särdragsurval

Särdragsextraktion

Schema för särdragsextraktion

Fallgropar med korrelation – Anscombes kvartett

Anscombes kvartett

Fallgropar med korrelation – kausalitet

sns.scatterplot(x="N firetrucks sent to fire", 
                y="N wounded by fire",data=fire_df)

Brandbilar kontra skadade

Nu kör vi en övning!

Dimensionsreduktion i Python