Настройка моделей

Прогнозирование CTR с помощью машинного обучения на Python

Kevin Huo

Instructor

Регуляризация

Пример регуляризации с синей и зелёной линиями

  • Регуляризация: метод борьбы с переобучением путём изменения величины коэффициентов параметров модели
  • Регуляризация может улучшить метрики качества и тем самым повысить ROI затрат на рекламу
Прогнозирование CTR с помощью машинного обучения на Python

Примеры регуляризации

  • Логистическая регрессия: параметр C — величина, обратная силе регуляризации.
  • От наименее к наиболее сложной: C=0.05 < C=0.5 < C=1
  • Дерево решений: параметр max_depth задаёт максимальную глубину дерева.
  • От наименее к наиболее сложному: max_depth=3 < max_depth=5 < max_depth=10
Прогнозирование CTR с помощью машинного обучения на Python

Кросс-валидация

K-блочная кросс-валидация

  • Для каждого из k блоков этот блок используется как тестовый (для валидации), а остальные k-1 — как обучающие.
  • Таким образом, вы получаете k оценок качества модели.
  • Обратите внимание: отдельная тестовая выборка для итоговой оценки сохраняется.
Прогнозирование CTR с помощью машинного обучения на Python

Примеры кросс-валидации

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')
  • Строки метрик: precision_weighted, recall_weighted, roc_auc
Прогнозирование CTR с помощью машинного обучения на Python

Давайте потренируемся!

Прогнозирование CTR с помощью машинного обучения на Python

Preparing Video For Download...