Welkom bij de cursus!

Extreme Gradient Boosting met XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Voordat we aan XGBoost toekomen...

  • Eerst de basis van
    • Supervised classification
    • Decision trees
    • Boosting
Extreme Gradient Boosting met XGBoost

Supervised learning

  • Gebruikt gelabelde data
  • Inzicht in eerder gedrag
Extreme Gradient Boosting met XGBoost

Voorbeeld van supervised learning

  • Staat er op een afbeelding een gezicht?
  • Trainingsdata: vectoren met pixelwaarden
  • Labels: 1 of 0
Extreme Gradient Boosting met XGBoost

Supervised learning: Classificatie

  • Uitkomst kan binair of multi-class zijn
Extreme Gradient Boosting met XGBoost

Voorbeeld binaire classificatie

  • Koopt iemand het verzekeringspakket bij een bepaalde offerte?

Extreme Gradient Boosting met XGBoost

Voorbeeld multi-class classificatie

  • De soort van een vogel bepalen
Extreme Gradient Boosting met XGBoost

AUC: Metriek voor binaire classificatiemodellen

  • Oppervlakte onder de ROC-curve (AUC)
  • Grotere oppervlakte = beter model

AUC example

Extreme Gradient Boosting met XGBoost

Accuracy-score en confusion matrix

  • Confusion matrix confusion matrix example

  • Nauwkeurigheid $$\frac{tp+tn}{tp+tn+fp+fn}$$

Extreme Gradient Boosting met XGBoost

Herhaling

Extreme Gradient Boosting met XGBoost

Andere aandachtspunten bij supervised learning

  • Features kunnen numeriek of categorisch zijn
  • Numerieke features moet je schalen (Z-score)
  • Categorische features moet je encoden (one-hot)
Extreme Gradient Boosting met XGBoost

Ranking

  • Een volgorde voorspellen voor een set keuzes

Extreme Gradient Boosting met XGBoost

Aanbeveling

  • Een item aan een gebruiker aanbevelen
  • Gebaseerd op kijk-/koopgeschiedenis en profiel
  • Voorbeeld: Netflix
Extreme Gradient Boosting met XGBoost

Laten we oefenen!

Extreme Gradient Boosting met XGBoost

Preparing Video For Download...