Model Metrics

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Mark Peterson

Director of Data Science, Infoblox

Imbalanced classes

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • Accuracy not a very useful metric
Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 1

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 2

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 3

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 4

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 5

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 6

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 7

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 8

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 9

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 10

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 11

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix Part 12

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Precision

Metric Formula
Precision True Positives / (True Positives + False Positives)

 

  • A model with high precision indicates:
    • Few false positives ("false alarms")
    • Not many non-churners were classified as churners
Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Recall

Metric Formula
Recall/Sensitivity True Positives / (True Positives + False Negatives)

 

  • A model with high recall indicates that it correctly classified most churners
Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Precision vs. Recall

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Confusion Matrix in scikit-learn

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Let's practice!

Pazarlama Analitiği: Python ile Müşteri Terkini Tahmin Etme

Preparing Video For Download...