Validação local

Vencendo uma competição do Kaggle em Python

Yauhen Babakhin

Kaggle Grandmaster

Motivação

exemplo de overfitting com rankings Público e Privado

Conjunto de validação (holdout)

esquema de holdout set

Conjunto de validação (holdout)

esquema de holdout set

Conjunto de validação (holdout)

esquema de holdout set

Validação cruzada K-fold

dividir os dados de treino em quatro folds

Validação cruzada K-fold

esquema de validação cruzada k-fold

Validação cruzada K-fold

# Import KFold
from sklearn.model_selection import KFold

# Create a KFold object
kf = KFold(n_splits=5, shuffle=True, random_state=123)

# Loop through each cross-validation split
for train_index, test_index in kf.split(train):

    # Get training and testing data for the corresponding split
    cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]

K-fold estratificado

esquema de validação cruzada k-fold estratificada

K-fold estratificado

# Import StratifiedKFold
from sklearn.model_selection import StratifiedKFold


# Create a StratifiedKFold object
str_kf = StratifiedKFold(n_splits=5, shuffle=True, random_state=123)


# Loop through each cross-validation split
for train_index, test_index in str_kf.split(train, train['target']):
    cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]

Vamos praticar!

Vencendo uma competição do Kaggle em Python