Метрики точності: моделі регресії

Валідація моделей у Python

Kasey Jones

Data Scientist

Регресійні моделі

Регресійні моделі прогнозують неперервні змінні. Наприклад, кількість балів, галонів або цуценят!

Валідація моделей у Python

Середня абсолютна помилка (MAE)

 

$$ MAE = \frac{\sum_{i=1}^{n} |y_i - \hat{y}_i|}{n} $$

  • Найпростіша й наочна метрика
  • Однаково зважує всі точки
  • Нечутлива до викидів
Валідація моделей у Python

Середньоквадратична помилка (MSE)

 

$$ MSE = \frac{\sum_{i=1}^{n} (y_i - \hat{y}_i) ^2}{n} $$

  • Найуживаніша метрика для регресії
  • Викиди роблять більший внесок у загальну помилку
  • Випадкові сімейні автоподорожі можуть спричиняти великі похибки прогнозу
Валідація моделей у Python

MAE vs. MSE

  • Метрики точності завжди залежать від застосування
  • Одиниці виміру MAE і MSE різні, їх не слід порівнювати напряму
Валідація моделей у Python

Середня абсолютна помилка

rfr = RandomForestRegressor(n_estimators=500, random_state=1111)
rfr.fit(X_train, y_train)
test_predictions = rfr.predict(X_test)

sum(abs(y_test - test_predictions))/len(test_predictions)

9.99

from sklearn.metrics import mean_absolute_error
mean_absolute_error(y_test, test_predictions)

9.99
Валідація моделей у Python

Середньоквадратична помилка

sum(abs(y_test - test_predictions)**2)/len(test_predictions)

141.4

from sklearn.metrics import mean_squared_error
mean_squared_error(y_test, test_predictions)

141.4
Валідація моделей у Python

Точність для підмножини даних

chocolate_preds = rfr.predict(X_test[X_test[:, 1] == 1])
mean_absolute_error(y_test[X_test[:, 1] == 1], chocolate_preds)

8.79

nonchocolate_preds = rfr.predict(X_test[X_test[:, 1] == 0])
mean_absolute_error(y_test[X_test[:, 1] == 0], nonchocolate_preds)

10.99
Валідація моделей у Python

Давайте потренуємось

Валідація моделей у Python

Preparing Video For Download...