Hàm mất mát là gì?

Bộ phân loại tuyến tính với Python

Michael Gelbart

Instructor, The University of British Columbia

Bình phương tối thiểu: mất mát bình phương

  • LinearRegression của scikit-learn tối thiểu hóa một hàm mất mát: $$\sum_{i=1}^n (\text{giá trị mục tiêu thứ } i \text{ thực})-\text{giá trị mục tiêu thứ } i \text{ dự đoán})^2$$
  • Việc tối thiểu hóa được thực hiện theo các hệ số hay tham số của mô hình.
  • Lưu ý: trong scikit-learn, model.score() không nhất thiết là hàm mất mát.
Bộ phân loại tuyến tính với Python

Lỗi phân loại: mất mát 0-1

  • Mất mát bình phương không phù hợp cho bài toán phân loại (sẽ nói thêm sau).
  • Mất mát tự nhiên cho phân loại là số lỗi.
  • Đây là mất mát 0-1: bằng 0 nếu dự đoán đúng và 1 nếu dự đoán sai.
  • Nhưng hàm mất mát này khó tối ưu hóa!
Bộ phân loại tuyến tính với Python

Tối thiểu hóa một hàm mất mát

from scipy.optimize import minimize

minimize(np.square, 0).x

array([0.])

minimize(np.square, 2).x

array([-1.88846401e-08])
Bộ phân loại tuyến tính với Python

Cùng luyện tập nào!

Bộ phân loại tuyến tính với Python

Preparing Video For Download...