การเลือกคอลัมน์สำหรับความเสี่ยงด้านสินเชื่อ

การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

Michael Crabtree

Data Scientist, Ford Motor Company

การเลือกคอลัมน์ที่ต้องการ

  • ที่ผ่านมาใช้ทุกคอลัมน์ในการพยากรณ์
# Selects a few specific columns
X_multi = cr_loan_prep[['loan_int_rate','person_emp_length']]
# Selects all data except loan_status
X = cr_loan_prep.drop('loan_status', axis = 1)
  • วิธีดูว่าแต่ละคอลัมน์มีความสำคัญเพียงใด
    • Logistic Regression: ค่าสัมประสิทธิ์ของคอลัมน์
    • Gradient Boosted Trees: ?
การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

ความสำคัญของคอลัมน์

  • ใช้เมธอด .get_booster() และ .get_score()
    • Weight: จำนวนครั้งที่คอลัมน์ปรากฏในทุก tree
# Train the model
clf_gbt.fit(X_train,np.ravel(y_train))
# Print the feature importances
clf_gbt.get_booster().get_score(importance_type = 'weight')
{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}
การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

การตีความความสำคัญของคอลัมน์

# Column importances from importance_type = 'weight'
{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}

Decision tree โดยใช้ XGBoost

การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

การพล็อตความสำคัญของคอลัมน์

  • ใช้ฟังก์ชัน plot_importance()
xgb.plot_importance(clf_gbt, importance_type = 'weight')
{'person_income': 315, 'loan_int_rate': 195, 'loan_percent_income': 146}

กราฟแสดงความสำคัญของ feature

การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

การเลือกคอลัมน์สำหรับการเทรน

  • ความสำคัญของคอลัมน์ช่วยในการตัดสินใจเลือกคอลัมน์สำหรับการเทรน
  • ชุดคอลัมน์ที่ต่างกันส่งผลต่อประสิทธิภาพของโมเดล
คอลัมน์ ความสำคัญ ความแม่นยำของโมเดล Recall ค่าผิดนัด
loan_int_rate, person_emp_length (100, 100) 0.81 0.67
loan_int_rate, person_emp_length, loan_percent_income (98, 70, 5) 0.84 0.52
การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

F1 scoring สำหรับโมเดล

  • การพิจารณา accuracy และ recall สำหรับแต่ละกลุ่มคอลัมน์ใช้เวลามาก
  • F1 score เป็น metric เดียวที่ครอบคลุมทั้ง accuracy และ recall

สูตรคำนวณ F1 score

  • แสดงผลใน classification_report()

Classification report ที่ไฮไลต์ F1 score

การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

มาฝึกกันเถอะ!

การสร้างโมเดลความเสี่ยงด้านเครดิตด้วย Python

Preparing Video For Download...