Kolumnval för kreditrisk

Kreditriskmodellering i Python

Michael Crabtree

Data Scientist, Ford Motor Company

Välja specifika kolumner

  • Vi har hittills använt alla kolumner för prediktioner
# Selects a few specific columns
X_multi = cr_loan_prep[['loan_int_rate','person_emp_length']]

# Selects all data except loan_status
X = cr_loan_prep.drop('loan_status', axis = 1)
  • Hur du avgör hur viktig varje kolumn är
    • Logistisk regression: kolumnkoefficienter
    • Gradientförstärkta träd: ?
Kreditriskmodellering i Python

Kolumnvikter

  • Använd metoderna .get_booster() och .get_score()
    • Weight: antal gånger kolumnen förekommer i alla träd
# Train the model
clf_gbt.fit(X_train,np.ravel(y_train))
# Print the feature importances
clf_gbt.get_booster().get_score(importance_type = 'weight')

{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}
Kreditriskmodellering i Python

Tolkning av kolumnvikter

# Column importances from importance_type = 'weight'
{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}

Beslutsträd med XGBoost

Kreditriskmodellering i Python

Visualisera kolumnvikter

  • Använd funktionen plot_importance()
xgb.plot_importance(clf_gbt, importance_type = 'weight')
{'person_income': 315, 'loan_int_rate': 195, 'loan_percent_income': 146}

Diagram över särdragsvikter

Kreditriskmodellering i Python

Välja träningskolumner

  • Kolumnvikter används ibland för att avgöra vilka kolumner som ska användas vid träning
  • Olika kombinationer påverkar modellernas prestanda
Kolumner Vikter Modellnoggrannhet Modellens recall för default
loan_int_rate, person_emp_length (100, 100) 0.81 0.67
loan_int_rate, person_emp_length, loan_percent_income (98, 70, 5) 0.84 0.52
Kreditriskmodellering i Python

F1-poäng för modeller

  • Att utvärdera noggrannhet och recall för olika kolumnkombinationer är tidskrävande
  • F1-poäng är ett enskilt mått som fångar både noggrannhet och recall

Formel för F1-poäng

  • Visas som en del av classification_report()

Klassificeringsrapport med F1-poäng markerad

Kreditriskmodellering i Python

Nu kör vi en övning!

Kreditriskmodellering i Python

Preparing Video For Download...