什么是损失函数？

Python 中的线性分类器

Michael Gelbart

Instructor, The University of British Columbia

最小二乘：平方损失

  • scikit-learn 的 LinearRegression 最小化一个损失：$$\sum_{i=1}^n (\text{真实} \; i\text{ 个目标值}-\text{预测} \; i\text{ 个目标值})^2$$
  • 最小化是针对模型的系数或参数进行的。
  • 注意，在 scikit-learn 中 model.score() 不一定是损失函数。
Python 中的线性分类器

分类错误：0-1 损失

  • 平方损失不适用于分类问题（后续详述）。
  • 分类的一个自然损失是错误数。
  • 这称为0-1 损失：预测正确为 0，预测错误为 1。
  • 但该损失难以最小化！
Python 中的线性分类器

最小化损失

from scipy.optimize import minimize

minimize(np.square, 0).x

array([0.])

minimize(np.square, 2).x

array([-1.88846401e-08])
Python 中的线性分类器

Let's practice!

Python 中的线性分类器

Preparing Video For Download...