模型优先级

走近 Decision Science

Howard Friedman

Adjunct Professor at Columbia University

从线性回归入手

  • 在满足假设时，对连续型结果效果好
  • 200+ 年的实践验证

简单也有力

  • 线性回归为数据找到最佳拟合直线
  • 配合变换，也能刻画复杂的非线性关系

可解释性很重要

  • 系数有助于对齐共识
  • 计算快，易于讲解
     

linear.png

走近 Decision Science

逻辑回归

许多实际问题涉及二元或类别预测：

  • 反欺诈、流失预测、医疗风险模型

coinflip.png

逻辑回归非常通用

  • 适用于二分类、多分类，甚至有序分类

概率有助于决策

易解释、易实现

  • 系数显示各特征对结果的影响
  • 复杂分类器的良好基线
走近 Decision Science

特征变换

先建立强力基线模型

  • 先做出可用版本，再评估高级模型的价值

特征变换可提升表现

  • 如对数或平方变换可提高解释的方差
  • 也能改善模型拟合度

让模型假设匹配数据

  • 一些模型（如线性回归）在残差近似正态时效果最佳

  toolbox.png

走近 Decision Science

常见变换

 

  • 对数与平方根变换可压缩取值范围，降低离群点影响
  • 标准化与归一化将特征带到相近范围，单位不一致时尤为有用
  • 多项式项如平方、立方，能以很小代价表示复杂的非线性关系

 

在上复杂模型前，用变换改进早期模型

 

transform.png

走近 Decision Science

开始练习吧！

走近 Decision Science

Preparing Video For Download...