BaggingClassifier: temel bilgiler

Python'da Ensemble Yöntemleri

Román de las Heras

Data Scientist, Appodeal

Heterojen vs. Homojen Fonksiyonlar

Heterojen Ansambl Fonksiyonu

het_est = HeterogeneousEnsemble(
    estimators=[('est1', est1), ('est2', est2), ...],
    # additional parameters
)

Homojen Ansambl Fonksiyonu

hom_est = HomogeneousEnsemble(
    est_base,
    n_estimators=chosen_number,
    # additional parameters
)

Bagging Classifier örneği:

# Taban tahminleyiciyi başlatın ("zayıf" model)
clf_dt = DecisionTreeClassifier(max_depth=3)

# 5 tahminleyici ile Bagging sınıflandırıcı oluşturun
clf_bag = BaggingClassifier(
    clf_dt,
    n_estimators=5
)

# Bagging modelini eğitim setine uydurun
clf_bag.fit(X_train, y_train)

# Test setinde tahmin yapın
y_pred = clf_bag.predict(X_test)

Bagging Regressor örneği:

# Taban tahminleyiciyi başlatın ("zayıf" model)
reg_lr = LinearRegression()

# 10 tahminleyici ile Bagging regresörü oluşturun
reg_bag = BaggingRegressor(
    reg_lr
)

# Bagging modelini eğitim setine uydurun
reg_bag.fit(X_train, y_train)

# Test setinde tahmin yapın
y_pred = reg_bag.predict(X_test)

Örnek dışında kalan her tahminleyici için tekil tahminleri hesaplayın
Tekil tahminleri birleştirin
Bu tahminlerde metriği değerlendirin:
- Sınıflandırma: accuracy
- Regresyon: R^2

clf_bag = BaggingClassifier(
    clf_dt,
    oob_score=True
)
clf_bag.fit(X_train, y_train)

print(clf_bag.oob_score_)

0.9328125

pred = clf_bag.predict(X_test)
print(accuracy_score(y_test, pred))

0.9625

Python'da Ensemble Yöntemleri