डिसीजन ट्री क्या है?

XGBoost के साथ Extreme Gradient Boosting

Sergey Fogelson

Head of Data Science, TelevisaUnivision

डिसीजन ट्री का विज़ुअलाइज़ेशन

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
XGBoost के साथ Extreme Gradient Boosting

बेस लर्नर के रूप में डिसीजन ट्री

  • बेस लर्नर - एन्सेम्बल एल्गोरिदम में व्यक्तिगत लर्निंग एल्गोरिदम
  • बाइनरी सवालों की एक श्रृंखला से बना
  • प्रेडिक्शन ट्री की "leaves" पर होते हैं
XGBoost के साथ Extreme Gradient Boosting

डिसीजन ट्री और CART

  • क्रमिक रूप से बनाए जाते हैं (एक बार में एक निर्णय)
    • जब तक स्टॉपिंग क्राइटेरिया पूरा न हो
XGBoost के साथ Extreme Gradient Boosting

अलग-अलग डिसीजन ट्री अक्सर ओवरफिट करते हैं

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
XGBoost के साथ Extreme Gradient Boosting

अलग-अलग डिसीजन ट्री अक्सर ओवरफिट करते हैं

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
XGBoost के साथ Extreme Gradient Boosting

CART: Classification and Regression Trees

  • हर leaf में हमेशा एक real-valued स्कोर होता है
  • बाद में इन्हें कैटेगरी में बदला जा सकता है
XGBoost के साथ Extreme Gradient Boosting

आइए कुछ डिसीजन ट्री पर काम करें!

XGBoost के साथ Extreme Gradient Boosting

Preparing Video For Download...