什麼是損失函式?

Python 中的線性分類器

Michael Gelbart

Instructor, The University of British Columbia

最小平方法:平方損失

  • scikit-learn 的 LinearRegression 會最小化一個損失:$$\sum_{i=1}^n (\text{true} \; i \text{th target value}-\text{predicted} \; i \text{th target value})^2$$
  • 最小化是針對模型的係數或參數而進行。
  • 注意,在 scikit-learn 中 model.score() 不一定是損失函式。
Python 中的線性分類器

分類錯誤:0-1 損失

  • 分類問題不適合用平方損失(之後會再說明)。
  • 分類問題一個直覺的損失是錯誤數。
  • 這就是 0-1 損失:預測正確為 0,預測錯誤為 1。
  • 但這個損失很難最小化!
Python 中的線性分類器

最小化損失

from scipy.optimize import minimize
minimize(np.square, 0).x
array([0.])
minimize(np.square, 2).x
array([-1.88846401e-08])
Python 中的線性分類器

一起來練習吧!

Python 中的線性分類器

Preparing Video For Download...