Metrici pentru modele

Marketing Analytics: Predicția abandonului clienților în Python

Mark Peterson

Director of Data Science, Infoblox

Clase dezechilibrate

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • Acuratețea nu este o metrică foarte utilă
Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 1

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 2

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 3

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 4

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 5

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 6

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 7

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 8

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 9

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 10

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 11

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie, partea 12

Marketing Analytics: Predicția abandonului clienților în Python

Precizie

Metrică Formulă
Precizie True Positives / (True Positives + False Positives)

 

  • Un model cu precizie ridicată indică:
    • Puține fals pozitive („alarme false")
    • Puțini non-abonatori renunțători clasificați greșit
Marketing Analytics: Predicția abandonului clienților în Python

Rată de regăsire

Metrică Formulă
Rată de regăsire/Sensibilitate True Positives / (True Positives + False Negatives)

 

  • Un model cu rată de regăsire ridicată clasifică corect majoritatea abonatorilor renunțători
Marketing Analytics: Predicția abandonului clienților în Python

Precizie vs. rată de regăsire

Marketing Analytics: Predicția abandonului clienților în Python

Matricea de confuzie în scikit-learn

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
Marketing Analytics: Predicția abandonului clienților în Python

Să exersăm!

Marketing Analytics: Predicția abandonului clienților în Python

Preparing Video For Download...