Apa itu decision tree?

Extreme Gradient Boosting dengan XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Memvisualisasikan decision tree

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
Extreme Gradient Boosting dengan XGBoost

Decision tree sebagai base learner

  • Base learner - Algoritme pembelajar tunggal dalam algoritme ansambel
  • Terdiri dari serangkaian pertanyaan biner
  • Prediksi terjadi pada "daun" pohon
Extreme Gradient Boosting dengan XGBoost

Decision tree dan CART

  • Dibangun secara iteratif (satu keputusan setiap kali)
    • Hingga kriteria penghentian terpenuhi
Extreme Gradient Boosting dengan XGBoost

Decision tree individual cenderung overfit

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Extreme Gradient Boosting dengan XGBoost

Decision tree individual cenderung overfit

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Extreme Gradient Boosting dengan XGBoost

CART: Classification and Regression Trees

  • Setiap daun selalu berisi skor bernilai real
  • Dapat diubah menjadi kategori
Extreme Gradient Boosting dengan XGBoost

Ayo bekerja dengan beberapa decision tree!

Extreme Gradient Boosting dengan XGBoost

Preparing Video For Download...