의사결정 트리란?

XGBoost로 익히는 Extreme Gradient Boosting

Sergey Fogelson

Head of Data Science, TelevisaUnivision

의사결정 트리 시각화

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
XGBoost로 익히는 Extreme Gradient Boosting

기본 학습기로서의 의사결정 트리

  • 기본 학습기 - 앙상블 알고리즘 내의 개별 학습 알고리즘
  • 일련의 이진 질문으로 구성됩니다
  • 예측은 트리의 "리프"에서 이루어집니다
XGBoost로 익히는 Extreme Gradient Boosting

의사결정 트리와 CART

  • 반복적으로 구성됩니다 (한 번에 하나의 결정)
    • 중단 기준이 충족될 때까지
XGBoost로 익히는 Extreme Gradient Boosting

개별 의사결정 트리는 과적합되기 쉽습니다

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
XGBoost로 익히는 Extreme Gradient Boosting

개별 의사결정 트리는 과적합되기 쉽습니다

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
XGBoost로 익히는 Extreme Gradient Boosting

CART: 분류 및 회귀 트리

  • 각 리프는 항상 실수 값 점수를 포함합니다
  • 이후 범주형으로 변환 가능합니다
XGBoost로 익히는 Extreme Gradient Boosting

의사결정 트리를 직접 다뤄 봅시다!

XGBoost로 익히는 Extreme Gradient Boosting

Preparing Video For Download...