モデルの評価指標

マーケティングアナリティクス:Pythonで顧客解約を予測する

Mark Peterson

Director of Data Science, Infoblox

クラスの不均衡

telco['Churn'].value_counts()
no     2850
yes     483
Name: Churn, dtype: int64
  • 正解率はあまり有用な指標ではない
マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート1

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート2

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート3

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート4

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート5

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート6

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート7

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート8

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート9

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート10

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート11

マーケティングアナリティクス:Pythonで顧客解約を予測する

混同行列 パート12

マーケティングアナリティクス:Pythonで顧客解約を予測する

適合率

指標 計算式
適合率 真陽性 / (真陽性 + 偽陽性)

 

  • 適合率が高いモデルの特徴:
    • 偽陽性(「誤検知」)が少ない
    • 非解約者を解約者と誤分類することが少ない
マーケティングアナリティクス:Pythonで顧客解約を予測する

再現率

指標 計算式
再現率/感度 真陽性 / (真陽性 + 偽陰性)

 

  • 再現率が高いモデルは、ほとんどの解約者を正しく分類できている
マーケティングアナリティクス:Pythonで顧客解約を予測する

適合率 vs. 再現率

マーケティングアナリティクス:Pythonで顧客解約を予測する

scikit-learnで混同行列を作成する

from sklearn.metrics import confusion_matrix

cm = confusion_matrix(y_test, y_pred)
マーケティングアナリティクス:Pythonで顧客解約を予測する

さあ、練習しましょう!

マーケティングアナリティクス:Pythonで顧客解約を予測する

Preparing Video For Download...