Wybór kolumn w ocenie ryzyka kredytowego

Modelowanie ryzyka kredytowego w Pythonie

Michael Crabtree

Data Scientist, Ford Motor Company

Wybór określonych kolumn

  • Do tej pory używaliśmy wszystkich kolumn do prognozowania
# Selects a few specific columns
X_multi = cr_loan_prep[['loan_int_rate','person_emp_length']]

# Selects all data except loan_status
X = cr_loan_prep.drop('loan_status', axis = 1)
  • Jak ocenić ważność poszczególnych kolumn
    • Regresja logistyczna: współczynniki kolumn
    • Gradient Boosted Trees: ?
Modelowanie ryzyka kredytowego w Pythonie

Ważność kolumn

  • Użyj metod .get_booster() i .get_score()
    • Waga: liczba wystąpień kolumny we wszystkich drzewach
# Train the model
clf_gbt.fit(X_train,np.ravel(y_train))
# Print the feature importances
clf_gbt.get_booster().get_score(importance_type = 'weight')

{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}
Modelowanie ryzyka kredytowego w Pythonie

Interpretacja ważności kolumn

# Column importances from importance_type = 'weight'
{'person_home_ownership_RENT': 1, 'person_home_ownership_OWN': 2}

Drzewo decyzyjne z użyciem XGBoost

Modelowanie ryzyka kredytowego w Pythonie

Wizualizacja ważności kolumn

  • Użyj funkcji plot_importance()
xgb.plot_importance(clf_gbt, importance_type = 'weight')
{'person_income': 315, 'loan_int_rate': 195, 'loan_percent_income': 146}

Wykres ważności cech

Modelowanie ryzyka kredytowego w Pythonie

Wybór kolumn do trenowania

  • Ważność kolumn bywa kryterium wyboru danych do trenowania
  • Różne zestawy kolumn wpływają na wydajność modeli
Kolumny Ważności Dokładność modelu Czułość dla niedoborów
loan_int_rate, person_emp_length (100, 100) 0.81 0.67
loan_int_rate, person_emp_length, loan_percent_income (98, 70, 5) 0.84 0.52
Modelowanie ryzyka kredytowego w Pythonie

Miara F1 dla modeli

  • Analizowanie dokładności i czułości dla różnych grup kolumn jest czasochłonne
  • F1 to pojedyncza miara uwzględniająca obie wartości

Wzór na wynik F1

  • Wyświetlany w ramach classification_report()

Raport klasyfikacji z wyróżnionym wynikiem F1

Modelowanie ryzyka kredytowego w Pythonie

Czas na ćwiczenia!

Modelowanie ryzyka kredytowego w Pythonie

Preparing Video For Download...