로지스틱 회귀 모델 결과 평가

R로 배우는 신용 위험 모델링

Lore Dirick

Manager of Data Science Curriculum at Flatiron School

복습: 모델 평가

test_set$loan_status    model_prediction   
               ...                 ...
[8066,]          1                   1
[8067,]          0                   0
[8068,]          0                   0
[8069,]          0                   0
[8070,]          0                   0
[8071,]          0                   1
[8072,]          1                   0
[8073,]          1                   1
[8074,]          0                   0
[8075,]          0                   0
[8076,]          0                   0
[8077,]          1                   1
[8078,]          0                   0
[8079,]          0                   1
        ...                        ...

실제 대출 상태 vs 모델 예측

연체 없음 (0) 연체 (1)
연체 없음 (0) 8 2
연체 (1) 1 3
R로 배우는 신용 위험 모델링

실제로는...

test_set$loan_status    model_prediction   
               ...                  ....
[8066,]          1            0.09881492
[8067,]          0            0.09497852
[8068,]          0            0.21071984
[8069,]          0            0.04252119
[8070,]          0            0.21110838
[8071,]          0            0.08668856
[8072,]          1            0.11319341
[8073,]          1            0.16662207
[8074,]          0            0.15299176
[8075,]          0            0.08558058
[8076,]          0            0.08280463
[8077,]          1            0.11271048
[8078,]          0            0.08987446
[8079,]          0            0.08561631
         ....                     ....

실제 대출 상태 vs 모델 예측

연체 없음 (0) 연체 (1)
연체 없음 (0) ? ?
연체 (1) ? ?
R로 배우는 신용 위험 모델링

실제로는...

test_set$loan_status    model_prediction   
         ....                     ....
[8066,]          1            0.09881492
[8067,]          0            0.09497852
[8068,]          0            0.21071984
[8069,]          0            0.04252119
[8070,]          0            0.21110838
[8071,]          0            0.08668856
[8072,]          1            0.11319341
[8073,]          1            0.16662207
[8074,]          0            0.15299176
[8075,]          0            0.08558058
[8076,]          0            0.08280463
[8077,]          1            0.11271048
[8078,]          0            0.08987446
[8079,]          0            0.08561631
         ....                     ....

컷오프(임계값)

  • 0과 1 사이
R로 배우는 신용 위험 모델링

컷오프 = 0.5

test_set$loan_status    model_prediction   
         ...                       ...
  [8066,]          1                   0
  [8067,]          0                   0
  [8068,]          0                   0
  [8069,]          0                   0
  [8070,]          0                   0
  [8071,]          0                   0
  [8072,]          1                   0
  [8073,]          1                   0
  [8074,]          0                   0
  [8075,]          0                   0
  [8076,]          0                   0
  [8077,]          1                   0
  [8078,]          0                   0
  [8079,]          0                   0
        ...                        ...
R로 배우는 신용 위험 모델링

컷오프 = 0.5

test_set$loan_status    model_prediction   
         ...                       ...
  [8066,]          1                   0
  [8067,]          0                   0
  [8068,]          0                   0
  [8069,]          0                   0
  [8070,]          0                   0
  [8071,]          0                   0
  [8072,]          1                   0
  [8073,]          1                   0
  [8074,]          0                   0
  [8075,]          0                   0
  [8076,]          0                   0
  [8077,]          1                   0
  [8078,]          0                   0
  [8079,]          0                   0
        ...                        ...

실제 대출 상태 vs 모델 예측

연체 없음 (0) 연체 (1)
연체 없음 (0) 10 0
연체 (1) 4 0

$$

$\text{민감도} = 0/(4+0) = 0\%$

$\text{정확도} = 10/(10+4+0+0) = 71.4\%$

R로 배우는 신용 위험 모델링

컷오프 = 0.1

test_set$loan_status    model_prediction   
         ...                       ...
  [8066,]          1                   0
  [8067,]          0                   0
  [8068,]          0                   0
  [8069,]          0                   0
  [8070,]          0                   0
  [8071,]          0                   0
  [8072,]          1                   0
  [8073,]          1                   0
  [8074,]          0                   0
  [8075,]          0                   0
  [8076,]          0                   0
  [8077,]          1                   0
  [8078,]          0                   0
  [8079,]          0                   0
        ...                        ...

실제 대출 상태 vs 모델 예측

연체 없음 (0) 연체 (1)
연체 없음 (0) 7 3
연체 (1) 1 3

$$

$\text{민감도} = 3/(3+1) = 75\%$

$\text{정확도} = 10/(10+4+0+0) = 71.4\%$

R로 배우는 신용 위험 모델링

Ayo berlatih!

R로 배우는 신용 위험 모델링

Preparing Video For Download...