Co je rozhodovací strom?

Extreme Gradient Boosting with XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Vizualizace rozhodovacího stromu

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
Extreme Gradient Boosting with XGBoost

Rozhodovací stromy jako základní učitelé

  • Základní učitel – individuální algoritmus v ansamblové metodě
  • Sestaven z řady binárních otázek
  • Předpovědi probíhají v "listech" stromu
Extreme Gradient Boosting with XGBoost

Rozhodovací stromy a CART

  • Konstruován iterativně (jedno rozhodnutí najednou)
    • Dokud není splněno kritérium zastavení
Extreme Gradient Boosting with XGBoost

Jednotlivé rozhodovací stromy mají tendenci k přeučení

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Extreme Gradient Boosting with XGBoost

Jednotlivé rozhodovací stromy mají tendenci k přeučení

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Extreme Gradient Boosting with XGBoost

CART: Klasifikační a regresní stromy

  • Každý list vždy obsahuje číselné skóre
  • Lze převést na kategorie
Extreme Gradient Boosting with XGBoost

Pojďme pracovat s rozhodovacími stromy!

Extreme Gradient Boosting with XGBoost

Preparing Video For Download...