Ocena modeli klasyfikacyjnych

Uczenie maszynowe w tidyverse

Dmitriy (Dima) Gorenshteyn

Lead Data Scientist, Memorial Sloan Kettering Cancer Center

Elementy pomiaru wydajności

1) Rzeczywiste klasy attrition
2) Przewidywane klasy attrition
3) Metryka do porównania 1) i 2)

Uczenie maszynowe w tidyverse

1) Przygotowanie rzeczywistych klas

attrition klasa
Yes TRUE
No FALSE
validate$Attrition
No  No  No  No  No  Yes No  Yes  ...  No  No  No
validate_actual <- validate$Attrition == "Yes"
validate_actual
FALSE FALSE FALSE FALSE FALSE  TRUE FALSE  TRUE ... FALSE FALSE FALSE
Uczenie maszynowe w tidyverse

2) Przygotowanie przewidywanych klas

P(attrition) klasa
$ \gt $ 0.5 TRUE
$ \le $ 0.5 FALSE
validate_prob <- predict(model, validate, type = "response")
validate_prob
0.324 0.012 0.077 0.001 0.104 0.940 0.116 0.811 0.261 0.027 0.065 0.060
validate_predicted <- validate_prob > 0.5
validate_predicted
FALSE FALSE FALSE FALSE FALSE  TRUE FALSE  TRUE FALSE FALSE FALSE FALSE
Uczenie maszynowe w tidyverse

3) Metryka do porównania 1) i 2)

table(validate_actual, validate_predicted)
               validate_predicted
validate_actual FALSE TRUE
          FALSE   181    5
          TRUE     17   18
Uczenie maszynowe w tidyverse

3) Metryka: Dokładność

accuracy(validate_actual, validate_predicted)
0.9004525
Uczenie maszynowe w tidyverse

3) Metryka: Precyzja

precision(validate_actual, validate_predicted)
0.7826087
Uczenie maszynowe w tidyverse

3) Metryka: Czułość

recall(validate_actual, validate_predicted)
0.5142857
Uczenie maszynowe w tidyverse

Czas na ćwiczenia!

Uczenie maszynowe w tidyverse

Preparing Video For Download...