Données manquantes
Remporter une compétition Kaggle en Python
Yauhen Babakhin
Kaggle Grandmaster
Données manquantes
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | NaN | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | NaN | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
- Imputation par valeur constante
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | 4.72 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
- Imputation par valeur constante
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
- Imputation par valeur constante
Données catégorielles
- Imputation par la catégorie la plus fréquente
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
- Imputation par valeur constante
Données catégorielles
- Imputation par la catégorie la plus fréquente
- Imputation par nouvelle catégorie
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | A | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Imputer les données manquantes
Données numériques
- Imputation moyenne/médiane
- Imputation par valeur constante
Données catégorielles
- Imputation par la catégorie la plus fréquente
- Imputation par nouvelle catégorie
| ID | Variable catégorielle | Variable numérique | Cible binaire |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | MISS | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
Repérer les données manquantes
df.isnull().head(1)
ID cat num target
0 False False False False
df.isnull().sum()
ID 0
cat 1
num 1
target 0
Données numériques manquantes
# Import SimpleImputer from sklearn.impute import SimpleImputer# Différents types d'imputeurs mean_imputer = SimpleImputer(strategy='mean') constant_imputer = SimpleImputer(strategy='constant', fill_value=-999)# Imputation df[['num']] = mean_imputer.fit_transform(df[['num']])
Données catégorielles manquantes
# Import SimpleImputer from sklearn.impute import SimpleImputer # Différents types d'imputeurs frequent_imputer = SimpleImputer(strategy='most_frequent') constant_imputer = SimpleImputer(strategy='constant', fill_value='MISS')# Imputation df[['cat']] = constant_imputer.fit_transform(df[['cat']])
Passons à la pratique !
Remporter une compétition Kaggle en Python
