Prever e avaliar

Machine Learning com modelos baseados em árvores em R

Sandro Raabe

Data Scientist

Prevendo em novos dados

Chamada geral:
predict(model, new_data, type)
Argumentos:
  1. Modelo treinado
  2. Conjunto para prever
  3. Tipo de previsão: rótulos ou probabilidades
Machine Learning com modelos baseados em árvores em R

Prevendo em novos dados

predict(model, new_data = test_data, 
               type = "class")

  .pred_class
  <fct>      
1 no         
2 no         
3 yes        
4 no

predict(model, new_data = test_data, 
               type = "prob")

     .pred_no  .pred_yes
     <dbl>     <dbl>
1    0.866     0.134
2    0.956     0.044
3    0.672     0.328
4    0.877     0.123
Machine Learning com modelos baseados em árvores em R

Matriz de confusão

matriz_de_confusao_1

  • Revela o quanto um modelo se confunde
Machine Learning com modelos baseados em árvores em R

Matriz de confusão

matriz_de_confusao_2

Machine Learning com modelos baseados em árvores em R

Matriz de confusão

matriz_de_confusao_3

Machine Learning com modelos baseados em árvores em R

Matriz de confusão

matriz_de_confusao_4

  • Diagonal: previsões corretas
  • Fora da diagonal: previsões incorretas
Machine Learning com modelos baseados em árvores em R

Matriz de confusão

 

  • TP: previsão yes, verdade yes
  • TN: previsão no, verdade no
  • FP: previsão yes, verdade no
  • FN: previsão no, verdade yes

matriz_de_confusao_4

Machine Learning com modelos baseados em árvores em R

Criar a matriz de confusão

# Combine predictions and truth values
pred_combined <- predictions %>% 
   mutate(true_class = test_data$outcome)

pred_combined

  .pred_class  true_class
  <fct>        <fct>     
1 no           no        
2 no           yes       
3 no           no        
4 yes          yes

# Calculate the confusion matrix
conf_mat(data = pred_combined,

         estimate = .pred_class,

         truth = true_class)


             Truth
Prediction    no   yes
        no   116    31
       yes    12    40
Machine Learning com modelos baseados em árvores em R

Acurácia

  $$\text{accuracy} = \frac{\text{n of correct predictions}}{\text{n of total predictions}}$$

  • Nome da função: accuracy()
  • Mesmos argumentos de conf_mat()
    • data, estimate e truth
    • Estrutura comum em yardstick
accuracy(pred_combined,
         estimate = .pred_class,
         truth = true_class)

  .metric     .estimate
  <chr>           <dbl>
1 accuracy        0.708
Machine Learning com modelos baseados em árvores em R

Vamos avaliar!

Machine Learning com modelos baseados em árvores em R

Preparing Video For Download...