欢迎来到本课程!

使用 XGBoost 的极端梯度提升

Sergey Fogelson

Head of Data Science, TelevisaUnivision

在开始 XGBoost 之前…

  • 需要了解{{1}}基础
    • 监督分类
    • 决策树
    • 提升法(Boosting)
使用 XGBoost 的极端梯度提升

监督学习

  • 依赖带标签的数据
  • 需了解过去行为
使用 XGBoost 的极端梯度提升

监督学习示例

  • 给定图像中是否有人脸?
  • 训练数据:像素值向量
  • 标签:1 或 0
使用 XGBoost 的极端梯度提升

监督学习:分类

  • 输出可为二分类或多分类
使用 XGBoost 的极端梯度提升

二分类示例

  • 给定报价,某人是否会购买该保险?

使用 XGBoost 的极端梯度提升

多类别分类示例

  • 判别给定鸟类的物种
使用 XGBoost 的极端梯度提升

AUC:二分类模型的度量

  • ROC 曲线下面积(AUC)
  • AUC 越大,模型越好

AUC 示例

使用 XGBoost 的极端梯度提升

准确率与混淆矩阵

  • 混淆矩阵 混淆矩阵示例

  • 准确率 $$\frac{tp+tn}{tp+tn+fp+fn}$$

使用 XGBoost 的极端梯度提升

回顾

使用 XGBoost 的极端梯度提升

其他监督学习注意事项

  • 特征可为数值型或类别型
  • 数值特征应标准化(Z 分数)
  • 类别特征应编码(独热)
使用 XGBoost 的极端梯度提升

排序

  • 预测一组选项的排序

使用 XGBoost 的极端梯度提升

推荐

  • 向用户推荐物品
  • 基于消费历史与画像
  • 例如:Netflix
使用 XGBoost 的极端梯度提升

让我们来练习!

使用 XGBoost 的极端梯度提升

Preparing Video For Download...