Revue et comparaison des modèles
Prédire le CTR avec le Machine Learning en Python
Kevin Huo
Instructor
Revue des modèles
from sklearn.linear_model import LogisticRegression
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.neural_network import MLPClassifier
- Régression logistique : classifieur linéaire définissant la frontière de décision
- Arbres de décision : enchaînement de conditions sous forme d'arbre
- Forêts aléatoires : ensemble d'arbres de décision
- Réseaux de neurones (MLP) : couches combinant linéairement des variables avec une fonction d'activation non linéaire
Mise en œuvre des modèles
Similarités
- Transformation des variables et régularisation
- Ajustement avec
classifier.fit(X_train, y_train) - Prédictions avec
predict_proba()etpredict()
Différences
- Arbres de décision :
max_depth,min_samples_split - Forêts aléatoires :
n_estimators,oob_score - Régression logistique :
fit_intercept,class_weight - Réseaux de neurones :
hidden_layer_sizes,max_iter
Évaluation des modèles
- Principales mesures d'évaluation :
- Matrice de confusion :
confusion_matrix(y_test, y_pred) - Précision :
precision_score(y_test, y_pred) - Rappel :
recall_score(y_test, y_pred) - Score F-bêta :
fbeta_score(y_test, y_pred, beta = 0.5) - AUC de la courbe ROC :
roc_auc_score(y_test, y_score[:, 1])
- Matrice de confusion :
Principaux avantages et inconvénients des réseaux de neurones
Avantages
- Passe à l'échelle avec les données
- Moins de besoin d'ingénierie des caractéristiques
- Plus transférable entre domaines
Inconvénients
- Moins performant sur de petits ensembles de données
- Difficile à interpréter
- Coût de calcul et financier plus élevé
Passons à la pratique !
Prédire le CTR avec le Machine Learning en Python
