Metryki wydajności dla drzew regresji

Uczenie maszynowe z modelami drzewiastymi w R

Sandro Raabe

Data Scientist

Jak mierzyć wydajność?

Klasyfikacja: dokładność (macierz pomyłek)
Regresja: „poprawność" jest względna, brak binarnej oceny

$\Rightarrow$ Mierzenie odległości prognoz od prawdziwych wartości

Popularne metryki regresji

Średni Błąd Bezwzględny (MAE)
Pierwiastek ze Średniego Błędu Kwadratowego (RMSE)

Intuicja MAE:

wykres średnich różnic

MAE = średnia długość czerwonych słupków

Wzory i intuicja

$$MAE = \frac{1}{n} \sum_{i=1}^n\left| actual_i - predicted_i \right|$$

„Suma odchyleń bezwzględnych podzielona przez liczbę prognoz"

$$\quad MSE = \quad \frac{1}{n} \sum_{i=1}^n\left( actual_i - predicted_i \right)^2$$

„Średni błąd kwadratowy"

Wzory i intuicja

$$MAE = \frac{1}{n} \sum_{i=1}^n\left| actual_i - predicted_i \right|$$

„Suma odchyleń bezwzględnych podzielona przez liczbę prognoz"

$$RMSE = \sqrt{\frac{1}{n} \sum_{i=1}^n\left( actual - predicted \right)^2}$$

„Pierwiastek ze średniego błędu kwadratowego"
Duże błędy mają wyższe wagi

Kodowanie: prognozy

# parsnip and yardstick are included in tidymodels
library(tidymodels)

# Make predictions and add to test data
predictions <- predict(model, new_data = chocolate_test) %>%

  bind_cols(chocolate_test)

# A tibble: 358 x 7
   .pred final_grade review_date cocoa_percent company_location
   <dbl>       <dbl>       <int>         <dbl> <fct>           
 1  2.5         2.75        2013          0.7  France          
 2  3.64        3.25        2014          0.8  France          
 3  3.3         3.5         2012          0.7  France          
 4  3.25        3.5         2011          0.72 Fiji            
# ... with 354 more rows, and 2 more variables: bean_type <fct>, broad_bean_origin <fct>

Kodowanie: mae() i rmse()

# Evaluate using mae()
mae(predictions,

    estimate = .pred,

    truth = final_grade)

# A tibble: 1 x 2
  .metric   .estimate
  <chr>         <dbl>
1 mae           0.363

# Evaluate using rmse()
rmse(predictions,
     estimate = .pred,
     truth = final_grade)

# A tibble: 1 x 2
  .metric   .estimate
  <chr>         <dbl>
1 rmse          0.457

Czas na ewaluację!

Uczenie maszynowe z modelami drzewiastymi w R