Bienvenue dans le cours !

Amorçage de gradient avancé avec XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Avant d'aborder XGBoost...

  • Comprendre les bases de
    • Classification supervisée
    • Arbres de décision
    • Boosting
Amorçage de gradient avancé avec XGBoost

Apprentissage supervisé

  • Repose sur des données étiquetées
  • S'appuie sur une compréhension du passé
Amorçage de gradient avancé avec XGBoost

Exemple d'apprentissage supervisé

  • Cette image contient-elle un visage ?
  • Données d'entraînement : vecteurs de pixels
  • Étiquettes : 1 ou 0
Amorçage de gradient avancé avec XGBoost

Apprentissage supervisé : classification

  • Résultat binaire ou multiclasse
Amorçage de gradient avancé avec XGBoost

Exemple de classification binaire

  • Cette personne achètera-t-elle l'assurance proposée ?

Amorçage de gradient avancé avec XGBoost

Exemple de classification multiclasse

  • Classer l'espèce d'un oiseau donné
Amorçage de gradient avancé avec XGBoost

AUC : métrique pour les modèles binaires

  • Aire sous la courbe ROC (AUC)
  • Plus l'aire est grande, meilleur est le modèle

Exemple d'AUC

Amorçage de gradient avancé avec XGBoost

Score de précision et matrice de confusion

  • Matrice de confusion exemple de matrice de confusion

  • Précision $$\frac{tp+tn}{tp+tn+fp+fn}$$

Amorçage de gradient avancé avec XGBoost

Rappel

Amorçage de gradient avancé avec XGBoost

Autres points à considérer en apprentissage supervisé

  • Les caractéristiques peuvent être numériques ou catégorielles
  • Les caractéristiques numériques doivent être mises à l'échelle (Z-score)
  • Les caractéristiques catégorielles doivent être codées (one-hot)
Amorçage de gradient avancé avec XGBoost

Classement

  • Prédire un ordre sur un ensemble de choix

Amorçage de gradient avancé avec XGBoost

Recommandation

  • Recommander un élément à un utilisateur
  • Selon l'historique et le profil
  • Exemple : Netflix
Amorçage de gradient avancé avec XGBoost

Passons à la pratique !

Amorçage de gradient avancé avec XGBoost

Preparing Video For Download...