Вилучення сильно корельованих ознак

Зменшення розмірності в Python

Jeroen Boeye

Head of Machine Learning, Faktion

Дані з високою кореляцією

pairplot зі сильною кореляцією

Сильно корельовані ознаки

матриця з високою кореляцією

Вилучення сильно корельованих ознак

# Create positive correlation matrix
corr_df = chest_df.corr().abs()

# Create and apply mask
mask = np.triu(np.ones_like(corr_df, dtype=bool))

tri_df = corr_df.mask(mask)

tri_df

Вилучення сильно корельованих ознак

# Find columns that meet threshold 
to_drop = [c for c in tri_df.columns if any(tri_df[c] > 0.95)]

print(to_drop)

['Suprasternale height', 'Cervicale height']

# Drop those columns
reduced_df = chest_df.drop(to_drop, axis=1)

Відбір ознак

схема відбору ознак

Видобування ознак

схема видобування ознак

Застереження щодо кореляції — квартет Анскомба

квартет Анскомба

Застереження щодо кореляції — причинність

sns.scatterplot(x="N firetrucks sent to fire", 
                y="N wounded by fire",data=fire_df)

пожежні машини проти постраждалих

Давайте потренуємось!

Зменшення розмірності в Python