Decision tree là gì?

Gradient Boosting Cực Mạnh với XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Trực quan hóa một decision tree

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
Gradient Boosting Cực Mạnh với XGBoost

Decision tree là base learner

  • Base learner - Thuật toán học riêng lẻ trong một thuật toán ensemble
  • Gồm một chuỗi câu hỏi nhị phân
  • Dự đoán diễn ra tại các "lá" của cây
Gradient Boosting Cực Mạnh với XGBoost

Decision tree và CART

  • Được xây dựng lặp dần (từng quyết định một)
    • Cho đến khi thỏa tiêu chí dừng
Gradient Boosting Cực Mạnh với XGBoost

Decision tree đơn lẻ dễ bị overfit

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Gradient Boosting Cực Mạnh với XGBoost

Decision tree đơn lẻ dễ bị overfit

1 http://scott.fortmann-roe.com/docs/BiasVariance.html
Gradient Boosting Cực Mạnh với XGBoost

CART: Cây Phân loại và Hồi quy

  • Mỗi lá luôn chứa một điểm số dạng số thực
  • Sau đó có thể chuyển thành các hạng mục
Gradient Boosting Cực Mạnh với XGBoost

Cùng làm việc với một vài decision tree nào!

Gradient Boosting Cực Mạnh với XGBoost

Preparing Video For Download...