Generalisasi model: bootstrapping dan validasi silang

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Lisa Stuart

Data Scientist

Ringkasan Bab 4

  • Bootstrapping/validasi silang --> generalisasi model
  • Kelas tidak seimbang
  • Fitur berkorelasi
  • Pemilihan model ansambel
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Generalisasi model

  • Kemampuan model ML berkinerja baik pada data belum terlihat
    • dataset uji
    • data masa depan
  • Metrik latih $\approx$ metrik uji
  • Model overfit tidak menggeneralisasi
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Pohon keputusan

Plot pohon keputusan

1 https://medium.com/@rnbrown/creating-and-visualizing-decision-trees-with-python-f8e8fa394176
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Node pohon keputusan

Node akar pohon keputusan

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Kelebihan vs kekurangan

Plot pohon keputusan

  • Kelebihan:
    • Mudah dipahami
    • Mudah divisualisasikan
  • Kekurangan:
    • Mudah overfit
    • Bersifat greedy
    • Bias saat kelas tidak seimbang
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Random Forest

Random Forest

1 https://www.researchgate.net/figure/Random-Forest-visualization_fig11_326560291
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Validasi silang K-fold

Validasi silang K-fold

1 https://scikit-learn.org/stable/modules/cross_validation.html
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Fungsi

# decision tree
`sklearn.tree.DecisionTreeClassifier` 

# random forest 
`sklearn.ensemble.RandomForestClassifier`

# cross-validated grid search
`sklearn.model_selection.GridSearchCV` 

# model accuracy
`sklearn.metrics.accuracy_score` 


# train/test split function
`sklearn.model_selection.train_test_split`

# Parameters that gave best results
`cross-val_model.best_params_`

# Mean cross-validated score of 
# estimator with best params 
`cross-val_model.best_score_`
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

GridSearchCV vs RandomSearchCV

Pencarian grid

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Ayo berlatih!

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Preparing Video For Download...