Налаштування моделей

Прогнозування CTR за допомогою машинного навчання в Python

Kevin Huo

Instructor

Регуляризація

Приклад регуляризації з синьою та зеленою лініями

Регуляризація: боротьба з переобученням шляхом зміни величини коефіцієнтів параметрів у моделі
Регуляризація може підвищити метрики якості та, відповідно, ROI від реклами

Приклади регуляризації

Логістична регресія: параметр C — це обернена величина сили регуляризації.
Від найпростішої до найскладнішої: C=0.05 < C=0.5 < C=1
Дерево рішень: параметр max_depth визначає, на скільки шарів углиб може рости дерево.
Від найпростішої до найскладнішої: max_depth=3 < max_depth=5 < max_depth=10

Крос-валідація

K-fold крос-валідація

Для кожної з k складок ця складка слугує тестовою (для валідації), а інші k-1 — тренувальними.
Отже, ви маєте k оцінювань якості моделі.
Зверніть увагу: окремий фінальний тестовий набір все одно залишається.

Приклади крос-валідації

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')

Рядки для оцінювання: precision_weighted, recall_weighted, roc_auc

Давайте потренуємось!

Прогнозування CTR за допомогою машинного навчання в Python