Benvenuto/a nel corso!

Extreme Gradient Boosting con XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Prima di arrivare a XGBoost...

  • Serve capire le basi di
    • Classificazione supervisionata
    • Alberi decisionali
    • Boosting
Extreme Gradient Boosting con XGBoost

Apprendimento supervisionato

  • Si basa su dati etichettati
  • Conoscere in parte il comportamento passato
Extreme Gradient Boosting con XGBoost

Esempio di apprendimento supervisionato

  • Una certa immagine contiene il volto di una persona?
  • Dati di training: vettori di valori dei pixel
  • Etichette: 1 o 0
Extreme Gradient Boosting con XGBoost

Apprendimento supervisionato: classificazione

  • L'output può essere binario o multiclasse
Extreme Gradient Boosting con XGBoost

Esempio di classificazione binaria

  • Una persona acquisterà il pacchetto assicurativo dato un preventivo?

Extreme Gradient Boosting con XGBoost

Esempio di classificazione multiclasse

  • Classificare la specie di un uccello dato
Extreme Gradient Boosting con XGBoost

AUC: metrica per modelli di classificazione binaria

  • Area sotto la curva ROC (AUC)
  • Più area sotto la ROC = modello migliore

Esempio di AUC

Extreme Gradient Boosting con XGBoost

Accuracy e matrice di confusione

  • Matrice di confusione esempio di matrice di confusione

  • Accuratezza $$\frac{tp+tn}{tp+tn+fp+fn}$$

Extreme Gradient Boosting con XGBoost

Ripasso

Extreme Gradient Boosting con XGBoost

Altre considerazioni sull'apprendimento supervisionato

  • Le feature possono essere numeriche o categoriche
  • Le feature numeriche vanno scalate (Z-score)
  • Le feature categoriche vanno codificate (one-hot)
Extreme Gradient Boosting con XGBoost

Ranking

  • Predire un ordinamento su un insieme di scelte

Extreme Gradient Boosting con XGBoost

Raccomandazione

  • Consigliare un elemento a un utente
  • In base alla cronologia di consumo e al profilo
  • Esempio: Netflix
Extreme Gradient Boosting con XGBoost

Esercitiamoci!

Extreme Gradient Boosting con XGBoost

Preparing Video For Download...