Chào mừng bạn đến với khóa học!

Gradient Boosting Cực Mạnh với XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Trước khi đến với XGBoost...

  • Cần nắm cơ bản về
    • Phân loại có giám sát
    • Cây quyết định
    • Boosting
Gradient Boosting Cực Mạnh với XGBoost

Học có giám sát

  • Dựa vào dữ liệu có nhãn
  • Có hiểu biết về hành vi trong quá khứ
Gradient Boosting Cực Mạnh với XGBoost

Ví dụ học có giám sát

  • Ảnh cụ thể có chứa khuôn mặt người không?
  • Dữ liệu huấn luyện: vector giá trị pixel
  • Nhãn: 1 hoặc 0
Gradient Boosting Cực Mạnh với XGBoost

Học có giám sát: Phân loại

  • Kết quả có thể nhị phân hoặc đa lớp
Gradient Boosting Cực Mạnh với XGBoost

Ví dụ phân loại nhị phân

  • Một người có mua gói bảo hiểm với một báo giá cho trước không?

Gradient Boosting Cực Mạnh với XGBoost

Ví dụ phân loại đa lớp

  • Phân loại loài của một con chim cho trước
Gradient Boosting Cực Mạnh với XGBoost

AUC: Thước đo cho mô hình phân loại nhị phân

  • Diện tích dưới đường cong ROC (AUC)
  • Diện tích càng lớn → mô hình càng tốt

Ví dụ AUC

Gradient Boosting Cực Mạnh với XGBoost

Điểm accuracy và ma trận nhầm lẫn

  • Ma trận nhầm lẫn ví dụ ma trận nhầm lẫn

  • Độ chính xác $$\frac{tp+tn}{tp+tn+fp+fn}$$

Gradient Boosting Cực Mạnh với XGBoost

Ôn tập

Gradient Boosting Cực Mạnh với XGBoost

Các lưu ý khác về học có giám sát

  • Đặc trưng có thể là số hoặc phân loại
  • Đặc trưng số nên được chuẩn hóa (Z-score)
  • Đặc trưng phân loại nên được mã hóa (one-hot)
Gradient Boosting Cực Mạnh với XGBoost

Xếp hạng

  • Dự đoán thứ hạng cho một tập lựa chọn

Gradient Boosting Cực Mạnh với XGBoost

Gợi ý

  • Gợi ý một mục cho người dùng
  • Dựa trên lịch sử tiêu dùng và hồ sơ
  • Ví dụ: Netflix
Gradient Boosting Cực Mạnh với XGBoost

Cùng luyện tập nào!

Gradient Boosting Cực Mạnh với XGBoost

Preparing Video For Download...