Modellmetriken

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Mark Peterson

Director of Data Science, Infoblox

Unausgewogene Klassen

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • Accuracy ist hier wenig aussagekräftig
Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 1

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 2

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 3

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 4

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 5

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 6

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 7

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 8

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 9

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 10

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 11

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix Teil 12

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Precision

Metric Formula
Precision True Positives / (True Positives + False Positives)

 

  • Ein Modell mit hoher Precision bedeutet:
    • Wenige False Positives („Fehlalarme")
    • Kaum Nicht-Churner als Churner klassifiziert
Marketing Analytics: Kundenabwanderung in Python vorhersagen

Recall

Metric Formula
Recall/Sensitivity True Positives / (True Positives + False Negatives)

 

  • Ein Modell mit hohem Recall klassifiziert die meisten Churner korrekt
Marketing Analytics: Kundenabwanderung in Python vorhersagen

Precision vs. Recall

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Konfusionsmatrix in scikit-learn

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
Marketing Analytics: Kundenabwanderung in Python vorhersagen

Lass uns üben!

Marketing Analytics: Kundenabwanderung in Python vorhersagen

Preparing Video For Download...