Локальна валідація

Як перемагати в змаганнях Kaggle за допомогою Python

Yauhen Babakhin

Kaggle Grandmaster

Мотивація

приклад перенавчання з публічними та приватними таблицями лідерів

Відкладена вибірка (holdout)

схема відкладеної вибірки

Відкладена вибірка (holdout)

схема відкладеної вибірки

Відкладена вибірка (holdout)

схема відкладеної вибірки

K-fold перехресна валідація

розбиття тренувальних даних на чотири фолди

K-fold перехресна валідація

схема k-fold перехресної валідації

K-fold перехресна валідація

# Import KFold
from sklearn.model_selection import KFold

# Create a KFold object
kf = KFold(n_splits=5, shuffle=True, random_state=123)

# Loop through each cross-validation split
for train_index, test_index in kf.split(train):

    # Get training and testing data for the corresponding split
    cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]

Стратифікований K-fold

схема стратифікованої k-fold перехресної валідації

Стратифікований K-fold

# Import StratifiedKFold
from sklearn.model_selection import StratifiedKFold


# Create a StratifiedKFold object
str_kf = StratifiedKFold(n_splits=5, shuffle=True, random_state=123)


# Loop through each cross-validation split
for train_index, test_index in str_kf.split(train, train['target']):
    cv_train, cv_test = train.iloc[train_index], train.iloc[test_index]

Давайте потренуємось!

Як перемагати в змаганнях Kaggle за допомогою Python