Bun venit la curs!

Gradient Boosting Extrem cu XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Înainte de a ajunge la XGBoost...

  • Este necesar să înțelegeți noțiunile de bază ale
    • Clasificării supervizate
    • Arborilor de decizie
    • Boosting-ului
Gradient Boosting Extrem cu XGBoost

Învățare supervizată

  • Se bazează pe date etichetate
  • Presupune înțelegerea comportamentului trecut
Gradient Boosting Extrem cu XGBoost

Exemplu de învățare supervizată

  • Conține o anumită imagine fața unei persoane?
  • Date de antrenare: vectori de valori ale pixelilor
  • Etichete: 1 sau 0
Gradient Boosting Extrem cu XGBoost

Învățare supervizată: Clasificare

  • Rezultatul poate fi binar sau multi-clasă
Gradient Boosting Extrem cu XGBoost

Exemplu de clasificare binară

  • Va achiziționa o persoană pachetul de asigurare oferit?

Gradient Boosting Extrem cu XGBoost

Exemplu de clasificare multi-clasă

  • Clasificarea speciei unei păsări date
Gradient Boosting Extrem cu XGBoost

AUC: Metrică pentru modele de clasificare binară

  • Aria de sub curba ROC (AUC)
  • AUC mai mare = model mai bun

Exemplu AUC

Gradient Boosting Extrem cu XGBoost

Acuratețe și matrice de confuzie

  • Matricea de confuzie exemplu matrice de confuzie

  • Acuratețe $$\frac{tp+tn}{tp+tn+fp+fn}$$

Gradient Boosting Extrem cu XGBoost

Recapitulare

Gradient Boosting Extrem cu XGBoost

Alte considerații în învățarea supervizată

  • Caracteristicile pot fi numerice sau categoriale
  • Caracteristicile numerice trebuie scalate (Z-score)
  • Caracteristicile categoriale trebuie codificate (one-hot)
Gradient Boosting Extrem cu XGBoost

Clasificare prin rang

  • Predicția unei ordonări asupra unui set de opțiuni

Gradient Boosting Extrem cu XGBoost

Recomandare

  • Recomandarea unui element unui utilizator
  • Pe baza istoricului de consum și a profilului
  • Exemplu: Netflix
Gradient Boosting Extrem cu XGBoost

Să exersăm!

Gradient Boosting Extrem cu XGBoost

Preparing Video For Download...