Réglage des modèles

Prédire le CTR avec le Machine Learning en Python

Kevin Huo

Instructor

Régularisation

Exemple de régularisation avec ligne bleue et verte

Régularisation : limiter le surapprentissage en modifiant l'ampleur des coefficients des paramètres d'un modèle
La régularisation peut améliorer les mesures de performance et donc le RSI des dépenses pub

Exemples de régularisation

Régression logistique : le paramètre C est l'inverse de la force de régularisation.
De la moins à la plus complexe : C=0.05 < C=0.5 < C=1
Arbre de décision : le paramètre max_depth contrôle le nombre de niveaux de l'arbre.
De la moins à la plus complexe : max_depth=3 < max_depth=5 < max_depth=10

Validation croisée

Validation croisée en k volets

Pour chacun des k volets, ce volet sert d'ensemble de test (validation) et les autres k-1 servent à l'entraînement.
Vous obtenez donc k évaluations des performances du modèle.
Un ensemble de test distinct pour l'évaluation finale est toujours conservé.

Exemples de validation croisée

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')

Chaînes de pointage : precision_weighted, recall_weighted, roc_auc

Passons à la pratique !

Prédire le CTR avec le Machine Learning en Python