Métricas do modelo

Análise de Marketing: Prevendo Churn de Clientes em Python

Mark Peterson

Director of Data Science, Infoblox

Classes desbalanceadas

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • A acurácia não é uma métrica muito útil
Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 1

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 2

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 3

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 4

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 5

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 6

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 7

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 8

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 9

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 10

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 11

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão Parte 12

Análise de Marketing: Prevendo Churn de Clientes em Python

Precisão

Métrica Fórmula
Precisão True Positives / (True Positives + False Positives)

 

  • Um modelo com alta precisão indica:
    • Poucos falsos positivos ("falsos alarmes")
    • Poucos não-churners classificados como churners
Análise de Marketing: Prevendo Churn de Clientes em Python

Recall

Métrica Fórmula
Recall/Sensibilidade True Positives / (True Positives + False Negatives)

 

  • Um modelo com alto recall indica que classificou corretamente a maioria dos churners
Análise de Marketing: Prevendo Churn de Clientes em Python

Precisão vs. Recall

Análise de Marketing: Prevendo Churn de Clientes em Python

Matriz de confusão no scikit-learn

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
Análise de Marketing: Prevendo Churn de Clientes em Python

Vamos praticar!

Análise de Marketing: Prevendo Churn de Clientes em Python

Preparing Video For Download...