Vítejte v kurzu!

Extreme Gradient Boosting with XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Než přejdeme k XGBoost...

  • Je třeba porozumět základům
    • Řízená klasifikace
    • Rozhodovací stromy
    • Boosting
Extreme Gradient Boosting with XGBoost

Řízené učení

  • Využívá označená data
  • Vychází z pochopení minulého chování
Extreme Gradient Boosting with XGBoost

Příklad řízeného učení

  • Obsahuje daný obrázek lidský obličej?
  • Trénovací data: vektory hodnot pixelů
  • Štítky: 1 nebo 0
Extreme Gradient Boosting with XGBoost

Řízené učení: klasifikace

  • Výsledek může být binární nebo vícetřídní
Extreme Gradient Boosting with XGBoost

Příklad binární klasifikace

  • Uzavře daná osoba pojistnou smlouvu na základě nabídky?

Extreme Gradient Boosting with XGBoost

Příklad vícetřídní klasifikace

  • Klasifikace druhu daného ptáka
Extreme Gradient Boosting with XGBoost

AUC: metrika pro binární klasifikační modely

  • Plocha pod ROC křivkou (AUC)
  • Větší AUC = lepší model

Příklad AUC

Extreme Gradient Boosting with XGBoost

Skóre přesnosti a matice záměn

  • Matice záměn Příklad matice záměn

  • Přesnost $$\frac{tp+tn}{tp+tn+fp+fn}$$

Extreme Gradient Boosting with XGBoost

Přehled

Extreme Gradient Boosting with XGBoost

Další aspekty řízeného učení

  • Příznaky mohou být číselné nebo kategorické
  • Číselné příznaky by měly být škálovány (Z-skóre)
  • Kategorické příznaky by měly být zakódovány (one-hot)
Extreme Gradient Boosting with XGBoost

Řazení

  • Predikce pořadí množiny voleb

Extreme Gradient Boosting with XGBoost

Doporučování

  • Doporučování položek uživateli
  • Na základě historie konzumace a profilu
  • Příklad: Netflix
Extreme Gradient Boosting with XGBoost

Pojďme si procvičit!

Extreme Gradient Boosting with XGBoost

Preparing Video For Download...