Удаление избыточных признаков

Предобработка данных для машинного обучения на Python

James Chapman

Curriculum Manager, DataCamp

Избыточные признаки

  • Удаление шумовых признаков
  • Удаление коррелирующих признаков
  • Удаление дублирующихся признаков
Предобработка данных для машинного обучения на Python

Случаи ручного удаления

city state lat long
hico tx 31.982778 -98.033333
mackinaw city mi 45.783889 -84.727778
winchester ky 37.990000 -84.179722
Предобработка данных для машинного обучения на Python

Коррелирующие признаки

  • Статистическая корреляция: признаки изменяются однонаправленно
  • Линейные модели предполагают независимость признаков
  • Коэффициент корреляции Пирсона
Предобработка данных для машинного обучения на Python

Коррелирующие признаки

print(df)

        A     B     C
0    3.06  3.92  1.04
1    2.76  3.40  1.05
2    3.24  3.17  1.03
...

print(df.corr())

          A         B         C
A  1.000000  0.787194  0.543479
B  0.787194  1.000000  0.565468
C  0.543479  0.565468  1.000000
Предобработка данных для машинного обучения на Python

Давайте потренируемся!

Предобработка данных для машинного обучения на Python

Preparing Video For Download...