Selectarea coloanelor pentru riscul de credit

Modelarea Riscului de Credit în Python

Michael Crabtree

Data Scientist, Ford Motor Company

Alegerea coloanelor specifice

  • Am folosit până acum toate coloanele pentru predicții
# Selects a few specific columns
X_multi = cr_loan_prep[['loan_int_rate','person_emp_length']]

# Selects all data except loan_status
X = cr_loan_prep.drop('loan_status', axis = 1)
  • Cum se determină importanța fiecărei coloane
    • Regresie logistică: coeficienții coloanelor
    • Arbori gradient boosted: ?
Modelarea Riscului de Credit în Python

Importanța coloanelor

  • Se utilizează metodele .get_booster() și .get_score()
    • Pondere: numărul de apariții ale coloanei în toți arborii
# Train the model
clf_gbt.fit(X_train,np.ravel(y_train))
# Print the feature importances
clf_gbt.get_booster().get_score(importance_type = 'weight')

{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}
Modelarea Riscului de Credit în Python

Interpretarea importanței coloanelor

# Column importances from importance_type = 'weight'
{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}

Arbore de decizie folosind XGBoost

Modelarea Riscului de Credit în Python

Vizualizarea importanței coloanelor

  • Se utilizează funcția plot_importance()
xgb.plot_importance(clf_gbt, importance_type = 'weight')
{'person_income': 315, 'loan_int_rate': 195, 'loan_percent_income': 146}

Grafic al importanței variabilelor

Modelarea Riscului de Credit în Python

Alegerea coloanelor de antrenare

  • Importanța coloanelor ajută la deciderea coloanelor folosite la antrenare
  • Seturi diferite de coloane influențează performanța modelelor
Coloane Importanțe Acuratețe model Recall implicit model
loan_int_rate, person_emp_length (100, 100) 0.81 0.67
loan_int_rate, person_emp_length, loan_percent_income (98, 70, 5) 0.84 0.52
Modelarea Riscului de Credit în Python

Scorul F1 pentru modele

  • Evaluarea acurateței și a recall-ului pentru grupuri diferite de coloane este consumatoare de timp
  • Scorul F1 este o metrică unică ce combină acuratețea și recall-ul

Formula pentru scorul F1

  • Apare în raportul generat de classification_report()

Raport de clasificare cu scorul F1 evidențiat

Modelarea Riscului de Credit în Python

Să exersăm!

Modelarea Riscului de Credit în Python

Preparing Video For Download...