Lokalna walidacja

Zwycięstwo w konkursie Kaggle w Pythonie

Yauhen Babakhin

Kaggle Grandmaster

Motywacja

przykład overfittingu z publicznym i prywatnym rankingiem

Zwycięstwo w konkursie Kaggle w Pythonie

Zbiór holdout

schemat zbioru holdout

Zwycięstwo w konkursie Kaggle w Pythonie

Zbiór holdout

schemat zbioru holdout

Zwycięstwo w konkursie Kaggle w Pythonie

Zbiór holdout

schemat zbioru holdout

Zwycięstwo w konkursie Kaggle w Pythonie

Walidacja krzyżowa k-fold

 

podział danych treningowych na cztery foldy

Zwycięstwo w konkursie Kaggle w Pythonie

Walidacja krzyżowa k-fold

 

schemat walidacji krzyżowej k-fold

Zwycięstwo w konkursie Kaggle w Pythonie

Walidacja krzyżowa k-fold

# Import KFold
from sklearn.model_selection import KFold
# Create a KFold object
kf = KFold(n_splits=5, shuffle=True, random_state=123)
# Loop through each cross-validation split
for train_index, test_index in kf.split(train):

# Get training and testing data for the corresponding split cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]
Zwycięstwo w konkursie Kaggle w Pythonie

Stratyfikowany k-fold

  schemat stratyfikowanej walidacji krzyżowej k-fold

Zwycięstwo w konkursie Kaggle w Pythonie

Stratyfikowany k-fold

# Import StratifiedKFold
from sklearn.model_selection import StratifiedKFold

# Create a StratifiedKFold object str_kf = StratifiedKFold(n_splits=5, shuffle=True, random_state=123)
# Loop through each cross-validation split for train_index, test_index in str_kf.split(train, train['target']): cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]
Zwycięstwo w konkursie Kaggle w Pythonie

Czas na ćwiczenia!

Zwycięstwo w konkursie Kaggle w Pythonie

Preparing Video For Download...