Hepsini bir araya getirme: Ensembling
Python'da Ensemble Yöntemleri
Román de las Heras
Data Scientist, Appodeal
Bölüm 1: Oylama ve Ortalama Alma
Oylama
- Birleştirme: mod (çoğunluk)
- Sınıflandırma
- Heterojen topluluk yöntemi
Ortalama Alma
- Birleştirme: ortalama (aritmetik)
- Sınıflandırma ve Regresyon
- Heterojen topluluk yöntemi
Şu durumlarda iyi seçimlerdir:
- Birden çok farklı model kurduysanız
- Hangisinin en iyi olduğundan emin değilseniz
- Genel performansı artırmak istiyorsanız
Bölüm 2: Bagging
Zayıf estimatör
- Rastgele tahminden biraz daha iyi performans
- Hafif ve hızlı model
- Homojen topluluk yöntemlerinin temeli
Bagging (Bootstrap Aggregating)
- Yerine koymalı rastgele alt örnekler
- Çok sayıda "zayıf" estimatör
- Oylama veya Ortalama ile birleştirilir
- Homojen topluluk yöntemi
Şu durumlarda iyi bir seçimdir:
- Varyansı azaltmak istiyorsanız
- Aşırı öğrenmeden kaçınmanız gerekiyorsa
- Daha fazla kararlılık ve sağlamlık istiyorsanız
* Gözlem:
- Bagging hesaplama açısından maliyetlidir
Bölüm 3: Boosting
Kademeli öğrenme
- Homojen topluluk yöntemi türü
- Yinelemeli öğrenmeye dayalı
- Ardışık model kurma
Boosting algoritmaları
- AdaBoost
- Gradient Boosting:
- XGBoost
- LightGBM
- CatBoost
Şu durumlarda iyi bir seçimdir:
- Karmaşık problemler varsa
- Paralel işlem veya dağıtık hesaplama gerekiyorsa
- Büyük veri kümeleri veya yüksek boyutlu kategorik özellikler varsa
Bölüm 4: Stacking
Stacking
- Birleştirme: meta-estimatör (model)
- Sınıflandırma ve Regresyon
- Heterojen topluluk yöntemi
Uygulama
- pandas ve sklearn ile sıfırdan
- Mevcut MLxtend kütüphanesi ile
Şu durumlarda iyi bir seçimdir:
- Oylama/Ortalama denendi ancak sonuçlar beklenen gibi değilse
- Farklı durumlarda iyi çalışan modelleriniz varsa
Teşekkürler ve başarılı ensembling!
Python'da Ensemble Yöntemleri
