欠損データ
Pythonで挑むKaggleコンペティション
Yauhen Babakhin
Kaggle Grandmaster
欠損データ
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | NaN | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | NaN | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
- 定数で補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | 4.72 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
- 定数で補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
- 定数で補完
カテゴリデータ
- 最頻カテゴリで補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | NaN | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
- 定数で補完
カテゴリデータ
- 最頻カテゴリで補完
- 新規カテゴリで補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | A | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を補完する
数値データ
- 平均/中央値で補完
- 定数で補完
カテゴリデータ
- 最頻カテゴリで補完
- 新規カテゴリで補完
| ID | カテゴリ特徴量 | 数値特徴量 | 二値ターゲット |
|---|---|---|---|
| 1 | A | 5.1 | 1 |
| 2 | B | 7.2 | 0 |
| 3 | C | 3.4 | 0 |
| 4 | A | -999 | 1 |
| 5 | MISS | 2.6 | 0 |
| 6 | A | 5.3 | 0 |
欠損を見つける
df.isnull().head(1)
ID cat num target
0 False False False False
df.isnull().sum()
ID 0
cat 1
num 1
target 0
数値の欠損値
# Import SimpleImputer from sklearn.impute import SimpleImputer# Different types of imputers mean_imputer = SimpleImputer(strategy='mean') constant_imputer = SimpleImputer(strategy='constant', fill_value=-999)# Imputation df[['num']] = mean_imputer.fit_transform(df[['num']])
カテゴリの欠損値
# Import SimpleImputer from sklearn.impute import SimpleImputer # Different types of imputers frequent_imputer = SimpleImputer(strategy='most_frequent') constant_imputer = SimpleImputer(strategy='constant', fill_value='MISS')# Imputation df[['cat']] = constant_imputer.fit_transform(df[['cat']])
Vamos praticar!
Pythonで挑むKaggleコンペティション
