Ajuster les modèles

Prédire le CTR avec le Machine Learning en Python

Kevin Huo

Instructor

Régularisation

Exemple de régularisation avec courbe bleue et verte

Régularisation : limiter le surapprentissage en ajustant l’ampleur des coefficients du modèle
La régularisation peut améliorer les métriques et donc le ROI des dépenses pub

Exemples de régularisation

Régression logistique : le paramètre C est l’inverse de la force de régularisation.
De la moins à la plus complexe : C=0.05 < C=0.5 < C=1
Arbre de décision : le paramètre max_depth limite la profondeur de l’arbre.
De la moins à la plus complexe : max_depth=3 < max_depth=5 < max_depth=10

Validation croisée

Validation croisée K-fold

Pour chaque pli k, ce pli sert de test (validation) et les k-1 autres d’entraînement.
Vous obtenez donc k évaluations des performances.
Vous conservez un jeu de test séparé pour l’évaluation finale.

Exemples de validation croisée

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')

Chaînes de scoring : precision_weighted, recall_weighted, roc_auc

Passons à la pratique !

Prédire le CTR avec le Machine Learning en Python