O que é uma função de perda?

Classificadores Lineares em Python

Michael Gelbart

Instructor, The University of British Columbia

Mínimos quadrados: a perda quadrática

  • LinearRegression do scikit-learn minimiza uma perda: $$\sum_{i=1}^n (\text{true} \; i \text{th target value}-\text{predicted} \; i \text{th target value})^2$$
  • A minimização é em relação aos coeficientes ou parâmetros do modelo.
  • Observe que, no scikit-learn, model.score() não é necessariamente a função de perda.
Classificadores Lineares em Python

Erros de classificação: a perda 0-1

  • Perda quadrática não é adequada para classificação (veremos mais adiante).
  • Uma perda natural para classificação é o número de erros.
  • Esta é a perda 0-1: vale 0 para acerto e 1 para erro.
  • Mas essa perda é difícil de minimizar!
Classificadores Lineares em Python

Minimizando uma perda

from scipy.optimize import minimize
minimize(np.square, 0).x
array([0.])
minimize(np.square, 2).x
array([-1.88846401e-08])
Classificadores Lineares em Python

Vamos praticar!

Classificadores Lineares em Python

Preparing Video For Download...