Ce este un arbore de decizie?

Gradient Boosting Extrem cu XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Vizualizarea unui arbore de decizie

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
Gradient Boosting Extrem cu XGBoost

Arbori de decizie ca learner de bază

  • Learner de bază - algoritm individual de învățare într-un ansamblu
  • Compus dintr-o serie de întrebări binare
  • Predicțiile se fac la "frunzele" arborelui
Gradient Boosting Extrem cu XGBoost

Arbori de decizie și CART

  • Construit iterativ (o decizie pe rând)
    • Până la îndeplinirea unui criteriu de oprire
Gradient Boosting Extrem cu XGBoost

Arborii de decizie individuali tind să supraajusteze

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Gradient Boosting Extrem cu XGBoost

Arborii de decizie individuali tind să supraajusteze

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Gradient Boosting Extrem cu XGBoost

CART: Arbori de clasificare și regresie

  • Fiecare frunză conține întotdeauna un scor numeric
  • Poate fi convertit ulterior în categorii
Gradient Boosting Extrem cu XGBoost

Să lucrăm cu arbori de decizie!

Gradient Boosting Extrem cu XGBoost

Preparing Video For Download...