Metryki modelu

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Mark Peterson

Director of Data Science, Infoblox

Niezrównoważone klasy

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • Dokładność nie jest zbyt użyteczną metryką
Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 1

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 2

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 3

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 4

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 5

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 6

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 7

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 8

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 9

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 10

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 11

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek, część 12

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Precyzja

Metryka Wzór
Precyzja Prawdziwe pozytywy / (Prawdziwe pozytywy + Fałszywe pozytywy)

 

  • Model o wysokiej precyzji oznacza:
    • Mało fałszywych alarmów
    • Niewielu nierezygnujących klientów zostało sklasyfikowanych jako rezygnujący
Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Czułość (Recall)

Metryka Wzór
Czułość/Recall Prawdziwe pozytywy / (Prawdziwe pozytywy + Fałszywe negatywy)

 

  • Model o wysokiej czułości poprawnie klasyfikuje większość rezygnujących klientów
Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Precyzja a czułość

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Macierz pomyłek w scikit-learn

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Czas na ćwiczenia!

Marketing Analytics: Przewidywanie rezygnacji klientów w Pythonie

Preparing Video For Download...