Generalizarea modelului: bootstrapping și validare încrucișată

Exersează întrebări de interviu pentru Machine Learning în Python

Lisa Stuart

Data Scientist

Prezentare generală capitol 4

  • Bootstrapping/validare încrucișată --> generalizarea modelului
  • Clase dezechilibrate
  • Caracteristici corelate
  • Selectarea modelului de ansamblu
Exersează întrebări de interviu pentru Machine Learning în Python

Generalizarea modelului

  • Capacitatea unui model ML de a performa bine pe date noi
    • set de date de testare
    • date viitoare
  • Metrici antrenare $\approx$ metrici testare
  • Modelele supraantrenate nu generalizează
Exersează întrebări de interviu pentru Machine Learning în Python

Arbore de decizie

Grafic arbore de decizie

1 https://medium.com/@rnbrown/creating-and-visualizing-decision-trees-with-python-f8e8fa394176
Exersează întrebări de interviu pentru Machine Learning în Python

Nodurile arborelui de decizie

Nodul rădăcină al arborelui de decizie

Exersează întrebări de interviu pentru Machine Learning în Python

Avantaje vs dezavantaje

Grafic arbore de decizie

  • Avantaje:
    • Ușor de înțeles
    • Ușor de vizualizat
  • Dezavantaje:
    • Se supraantrenează ușor
    • Considerat greedy
    • Părtinitor în cazul dezechilibrului de clase
Exersează întrebări de interviu pentru Machine Learning în Python

Random Forest

Random Forest

1 https://www.researchgate.net/figure/Random-Forest-visualization_fig11_326560291
Exersează întrebări de interviu pentru Machine Learning în Python

Validare încrucișată K-fold

Validare încrucișată K-fold

1 https://scikit-learn.org/stable/modules/cross_validation.html
Exersează întrebări de interviu pentru Machine Learning în Python

Funcții

# decision tree
`sklearn.tree.DecisionTreeClassifier` 

# random forest 
`sklearn.ensemble.RandomForestClassifier`

# cross-validated grid search
`sklearn.model_selection.GridSearchCV` 

# model accuracy
`sklearn.metrics.accuracy_score` 


# train/test split function
`sklearn.model_selection.train_test_split`

# Parameters that gave best results
`cross-val_model.best_params_`

# Mean cross-validated score of 
# estimator with best params 
`cross-val_model.best_score_`
Exersează întrebări de interviu pentru Machine Learning în Python

GridSearchCV vs RandomSearchCV

Grid search

Exersează întrebări de interviu pentru Machine Learning în Python

Să exersăm!

Exersează întrebări de interviu pentru Machine Learning în Python

Preparing Video For Download...