Maskininlärningsflöden

Modellering med tidymodels i R

David Svancer

Data Scientist

Klassificering med beslutsträd

Beslutsträd delar upp prediktorutrymmet i rektangulära regioner

Rekursiv binär uppdelning

  • Algoritm som delar upp prediktorutrymmet i icke-överlappande rektangulära regioner

Spridningsdiagram för lead scoring-data

Modellering med tidymodels i R

Klassificering med beslutsträd

Beslutsträd delar upp prediktorutrymmet i rektangulära regioner

Rekursiv binär uppdelning

  • Algoritm som delar upp prediktorutrymmet i icke-överlappande rektangulära regioner
  • Uppdelningar läggs till iterativt
    • Antingen horisontella eller vertikala snittlinjer

Spridningsdiagram med första uppdelningen i beslutsträdet

Modellering med tidymodels i R

Klassificering med beslutsträd

Beslutsträd delar upp prediktorutrymmet i rektangulära regioner

Rekursiv binär uppdelning

  • Algoritm som delar upp prediktorutrymmet i icke-överlappande rektangulära regioner
  • Uppdelningar läggs till iterativt
    • Antingen horisontella eller vertikala snittlinjer

Spridningsdiagram med andra uppdelningen i beslutsträdet

Modellering med tidymodels i R

Klassificering med beslutsträd

Beslutsträd delar upp prediktorutrymmet i rektangulära regioner

Rekursiv binär uppdelning

  • Algoritm som delar upp prediktorutrymmet i icke-överlappande rektangulära regioner
  • Uppdelningar läggs till iterativt
    • Antingen horisontella eller vertikala snittlinjer

Spridningsdiagram med tredje uppdelningen i beslutsträdet

Modellering med tidymodels i R

Klassificering med beslutsträd

Beslutsträd delar upp prediktorutrymmet i rektangulära regioner

Rekursiv binär uppdelning

  • Algoritm som delar upp prediktorutrymmet i icke-överlappande rektangulära regioner
  • Uppdelningar läggs till iterativt
    • Antingen horisontella eller vertikala snittlinjer

 

Skapar distinkta rektangulära regioner

  • Vid klassificering förutsägs majoritetsklassen

Spridningsdiagram med fyra rektangulära prediktionsregioner

Modellering med tidymodels i R

Träddiagram

  • Interna noder
    • Uppdelningar i beslutsträdet (mörka rutor)
  • Terminalnoder
    • Regioner som inte delas upp vidare
    • Gröna och lila rutor

Diagram över beslutsträd

Interna noder visas som streckade linjer och terminalnoder som markerade rektangulära regioner

Spridningsdiagram med fyra rektangulära prediktionsregioner

Modellering med tidymodels i R

Modellspecifikation

Modellspecifikation i parsnip

  • decision_tree()
    • Generellt gränssnitt för beslutsträdsmodeller i parsnip
    • Vanlig motor är 'rpart'
    • Läget kan vara antingen 'classification' eller 'regression'
      • För lead scoring-data behöver vi 'classification'
dt_model <- decision_tree() %>% 

  set_engine('rpart') %>%

  set_mode('classification')
Modellering med tidymodels i R

Feature engineering-recept

Datatransformationer för lead scoring-data

  • Kodas i ett recipe-objekt
    • Ta bort multikollinearitet
    • Normalisera numeriska prediktorer
    • Skapa dummyvariabler för nominella prediktorer

Två R-objekt att hantera

  • parsnip-modell och recipe-specifikation
  • Att kombinera dem till ett objekt skulle förenkla arbetet
leads_recipe <- recipe(purchased ~ .,
                       data = leads_training) %>%

  step_corr(all_numeric(), threshold = 0.9) %>% 
  step_normalize(all_numeric()) %>% 
  step_dummy(all_nominal(), -all_outcomes())

leads_recipe

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on all_numeric()
Centering and scaling for all_numeric()
Dummy variables from all_nominal(), -all_outcomes()
Modellering med tidymodels i R

Kombinera modeller och recept

Paketet workflows är utformat för att effektivisera modellprocessen

  • Kombinerar ett parsnip-objekt och ett recipe-objekt till ett enda workflow-objekt

 

Initieras med funktionen workflow()

  • Lägg till modellobjekt med add_model()
  • Lägg till recipe-objekt med add_recipe()
    • Måste vara en specifikation, inte ett tränat recipe
leads_wkfl <- workflow() %>%

  add_model(dt_model) %>%

  add_recipe(leads_recipe)


leads_wkfl

== Workflow =====================
Preprocessor: Recipe
Model: decision_tree()
-- Preprocessor -----------------
3 Recipe Steps
* step_corr()
* step_normalize()
* step_dummy()
-- Model --------------------------
Decision Tree Model Specification (classification)
Computational engine: rpart
Modellering med tidymodels i R

Modellanpassning med workflows

Träna ett workflow-objekt

  • Skicka workflow till last_fit() och ange datadelningsobjektet
  • Visa modellutvärderingsresultat med collect_metrics()

I bakgrunden

  • Tränings- och testdataset skapas
  • recipe tränas och tillämpas
  • Beslutsträdet tränas med träningsdata
  • Prediktioner och mätvärden beräknas på testdata
leads_wkfl_fit <- leads_wkfl %>% 
  last_fit(split = leads_split)


leads_wkfl_fit %>% 
  collect_metrics()

# A tibble: 2 x 3
  .metric  .estimator .estimate
  <chr>    <chr>          <dbl>
1 accuracy binary         0.771
2 roc_auc  binary         0.775
Modellering med tidymodels i R

Samla in prediktioner

Ett workflow tränat med last_fit() kan skickas till collect_predictions()

  • Ger detaljerade resultat för testdata
  • Precis som tidigare kan det användas med yardstick-funktioner för att utforska anpassade mätvärden
leads_wkfl_preds <- leads_wkfl_fit %>% 
  collect_predictions()


leads_wkfl_preds

# A tibble: 332 x 6
   id          .pred_yes .pred_no  .row .pred_class purchased
  <chr>           <dbl>   <dbl>    <int>   <fct>       <fct>
train/test split  0.120    0.880     2      no          no
train/test split  0.755    0.245    17      yes         yes
train/test split  0.120    0.880    21      no          no
train/test split  0.120    0.880    22      no          no
train/test split  0.755    0.245    24      yes         yes
# ... with 327 more rows
Modellering med tidymodels i R

Utforska anpassade mätvärden

Skapa en anpassad måttuppsättning med metric_set()

  • Area under ROC-kurvan, sensitivitet och specificitet

 

Skicka prediktorsdataset till leads_metrics() för att beräkna måtten

leads_metrics <- metric_set(roc_auc, sens, spec)


leads_wkfl_preds %>% 
  leads_metrics(truth = purchased, 
                estimate = .pred_class, 
                .pred_yes)


# A tibble: 3 x 3
  .metric .estimator .estimate
  <chr>   <chr>          <dbl>
1 sens    binary         0.75 
2 spec    binary         0.783
3 roc_auc binary         0.775
Modellering med tidymodels i R

Dataset för lånebetalningsproblem

Finansiella data för konsumentlån på en bank

  • Utfallsvariabeln är loan_default

 

loans_df

# A tibble: 872 x 8
loan_default  loan_purpose   missed_payment_2_yr loan_amount interest_rate installment annual_income debt_to_income
 <fct>           <fct>            <fct>             <int>        <dbl>         <dbl>         <dbl>       <dbl>
 no        debt_consolidation      no              25000         5.47          855.         62823        39.4 
 yes       medical                 no              10000        10.2           364.         40000        24.1 
 no        small_business          no              13000         6.22          442.         65000        14.0 
 no        small_business          no              36000         5.97         1152.        125000         8.09
 yes       small_business          yes             12000        11.8           308.         65000        20.1 
# ... with 867 more rows
Modellering med tidymodels i R

Nu kör vi en övning!

Modellering med tidymodels i R

Preparing Video For Download...