Leistungsmetriken für Regressionsbäume

Maschinelles Lernen mit baumbasierten Modellen in R

Sandro Raabe

Data Scientist

Wie misst man Performance?

Klassifikation: Accuracy (Konfusionsmatrix)
Regression: „korrekt" ist relativ, keine binäre Richtigkeit

$\Rightarrow$ Miss, wie weit Vorhersagen von der Wahrheit abweichen

Übliche Metriken für Regression

Mean Absolute Error (MAE)
Root Mean Square Error (RMSE)

MAE-Intuition:

plot of mean differences

MAE = durchschnittliche Länge der roten Balken

Formeln und Intuition

$$MAE = \frac{1}{n} \sum_{i=1}^n\left| actual_i - predicted_i \right|$$

„Summe der absoluten Abweichungen geteilt durch die Anzahl der Vorhersagen"

$$\quad MSE = \quad \frac{1}{n} \sum_{i=1}^n\left( actual_i - predicted_i \right)^2$$

„Mean Squared Error"

Formeln und Intuition

$$MAE = \frac{1}{n} \sum_{i=1}^n\left| actual_i - predicted_i \right|$$

„Summe der absoluten Abweichungen geteilt durch die Anzahl der Vorhersagen"

$$RMSE = \sqrt{\frac{1}{n} \sum_{i=1}^n\left( actual - predicted \right)^2}$$

„Wurzel des Mean Squared Error"
Große Fehler werden stärker gewichtet

Coding: Vorhersagen

# parsnip und yardstick sind in tidymodels enthalten
library(tidymodels)

# Vorhersagen erstellen und zu Testdaten hinzufügen
predictions <- predict(model, new_data = chocolate_test) %>%

  bind_cols(chocolate_test)

# A tibble: 358 x 7
   .pred final_grade review_date cocoa_percent company_location
   <dbl>       <dbl>       <int>         <dbl> <fct>           
 1  2.5         2.75        2013          0.7  France          
 2  3.64        3.25        2014          0.8  France          
 3  3.3         3.5         2012          0.7  France          
 4  3.25        3.5         2011          0.72 Fiji            
# ... with 354 more rows, and 2 more variables: bean_type <fct>, broad_bean_origin <fct>

Coding: mae() und rmse()

# Mit mae() auswerten
mae(predictions,

    estimate = .pred,

    truth = final_grade)

# A tibble: 1 x 2
  .metric   .estimate
  <chr>         <dbl>
1 mae           0.363

# Mit rmse() auswerten
rmse(predictions,
     estimate = .pred,
     truth = final_grade)

# A tibble: 1 x 2
  .metric   .estimate
  <chr>         <dbl>
1 rmse          0.457

Lass uns evaluieren!

Maschinelles Lernen mit baumbasierten Modellen in R