Co je ztrátová funkce?

Linear Classifiers in Python

Michael Gelbart

Instructor, The University of British Columbia

Metoda nejmenších čtverců: kvadratická ztráta

  • LinearRegression z scikit-learn minimalizuje ztrátu: $$\sum_{i=1}^n (\text{true} \; i \text{th target value}-\text{predicted} \; i \text{th target value})^2$$
  • Minimalizace probíhá vzhledem ke koeficientům nebo parametrům modelu.
  • Pozor: model.score() v scikit-learn nemusí být ztrátová funkce.
Linear Classifiers in Python

Klasifikační chyby: ztráta 0-1

  • Kvadratická ztráta není vhodná pro klasifikační problémy (více později).
  • Přirozenou ztrátou pro klasifikaci je počet chyb.
  • To je ztráta 0-1: 0 pro správnou predikci a 1 pro nesprávnou.
  • Tato ztráta se však špatně minimalizuje!
Linear Classifiers in Python

Minimalizace ztráty

from scipy.optimize import minimize

minimize(np.square, 0).x

array([0.])

minimize(np.square, 2).x

array([-1.88846401e-08])
Linear Classifiers in Python

Pojďme si procvičit!

Linear Classifiers in Python

Preparing Video For Download...