Engenharia de features

Vencendo uma competição do Kaggle em Python

Yauhen Babakhin

Kaggle Grandmaster

Fluxo da solução

 

 

fluxo da solução

Vencendo uma competição do Kaggle em Python

Etapa de modelagem

  componentes da etapa de modelagem

Vencendo uma competição do Kaggle em Python

Etapa de modelagem

  componentes da etapa de modelagem

Vencendo uma competição do Kaggle em Python

Etapa de modelagem

  componentes da etapa de modelagem

Vencendo uma competição do Kaggle em Python

Engenharia de features

 

esquema de engenharia de features

Vencendo uma competição do Kaggle em Python

Engenharia de features

 

esquema de engenharia de features

Vencendo uma competição do Kaggle em Python

Tipos de features

 

  • Numéricas
  • Categóricas
  • Data/hora
  • Coordenadas
  • Texto
  • Imagens
Vencendo uma competição do Kaggle em Python

Criando features

# Concatenate the train and test data
data = pd.concat([train, test])

# Create new features for the data DataFrame...

# Get the train and test back
train = data[data.id.isin(train.id)]
test = data[data.id.isin(test.id)]
Vencendo uma competição do Kaggle em Python

Features aritméticas

# Two sigma connect competition
two_sigma.head(1)

      id     bathrooms  bedrooms price interest_level
0     10     1.5        3        3000  medium

# Arithmetical features
two_sigma['price_per_bedroom'] = two_sigma.price / two_sigma.bedrooms
two_sigma['rooms_number'] = two_sigma.bedrooms + two_sigma.bathrooms
Vencendo uma competição do Kaggle em Python

Features de data/hora

# Demand forecasting challenge
dem.head(1)

          id           date store  item  sales
0     100000     2017-12-01     1     1     19

# Convert date to the datetime object
dem['date'] = pd.to_datetime(dem['date'])
Vencendo uma competição do Kaggle em Python

Features de data/hora

# Year features
dem['year'] = dem['date'].dt.year

# Month features
dem['month'] = dem['date'].dt.month

# Week features
dem['week'] = dem['date'].dt.weekofyear

# Day features
dem['dayofyear'] = dem['date'].dt.dayofyear
dem['dayofmonth'] = dem['date'].dt.day
dem['dayofweek'] = dem['date'].dt.dayofweek

date           year  month   week
2017-12-01     2017     12     48
2017-12-02     2017     12     48
2017-12-03     2017     12     48
2017-12-04     2017     12     49

 

date      dayofyear  dayofmonth dayofweek
2017-12-01  335      1          4
2017-12-02  336      2          5
2017-12-03  337      3          6
2017-12-04  338      4          0
Vencendo uma competição do Kaggle em Python

Vamos praticar!

Vencendo uma competição do Kaggle em Python

Preparing Video For Download...