การวัดประสิทธิภาพ cross-validation

Machine Learning ใน Tidyverse

Dmitriy (Dima) Gorenshteyn

Lead Data Scientist, Memorial Sloan Kettering Cancer Center

การวัดประสิทธิภาพ

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าจริง

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าจริง

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าจริง

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าที่พยากรณ์

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าที่พยากรณ์

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ - ค่าที่พยากรณ์

Machine Learning ใน Tidyverse

การวัดประสิทธิภาพ

Machine Learning ใน Tidyverse

Mean Absolute Error

Machine Learning ใน Tidyverse

องค์ประกอบของการวัดประสิทธิภาพ

1) ค่าจริงของ life_expectancy
2) ค่าที่พยากรณ์ของ life_expectancy
3) เมตริกสำหรับเปรียบเทียบ 1) และ 2)

Machine Learning ใน Tidyverse

1) ดึงค่าจริงออกมา

cv_prep_lm <- cv_models_lm %>% 
  mutate(validate_actual = map(validate, ~.x$life_expectancy))
Machine Learning ใน Tidyverse

ฟังก์ชัน predict() และ map2()

predict(model, data)
map2(.x = model, .y = data, .f = ~predict(.x, .y))
Machine Learning ใน Tidyverse

2) เตรียมค่าที่พยากรณ์

cv_prep_lm <- cv_eval_lm %>% 
  mutate(validate_actual = map(validate, ~.x$life_expectancy),
         validate_predicted = map2(model, validate, ~predict(.x, .y)))
Machine Learning ใน Tidyverse

3) คำนวณ MAE

library(Metrics)
cv_eval_lm <- cv_prep_lm %>% 
  mutate(validate_mae = map2_dbl(validate_actual, validate_predicted, 
                                ~mae(actual = .x, predicted = .y)))

cv_eval_lm
#  5-fold cross-validation 
# A tibble: 5 x 8
splits       id    train validate model validate_a. validate_p validate_mae
<S3: rsplit> Fold1 <tib. <tib.   <S3.   <dbl.       <dbl.       1.47
<S3: rsplit> Fold2 <tib. <tib.   <S3.   <dbl.       <dbl.       1.51
<S3: rsplit> Fold3 <tib. <tib.   <S3.   <dbl.       <dbl.       1.44
<S3: rsplit> Fold4 <tib. <tib.   <S3.   <dbl.       <dbl.       1.48
<S3: rsplit> Fold5 <tib. <tib.   <S3.   <dbl.       <dbl.       1.68
Machine Learning ใน Tidyverse

มาฝึกกันเถอะ!

Machine Learning ใน Tidyverse

Preparing Video For Download...