Crie seu primeiro stacked ensemble

Métodos de Ensemble em Python

Román de las Heras

Data Scientist, Appodeal

Empilhando modelos com scikit-learn

Alguns recursos do stacking no scikit-learn:

  1. scikit-learn oferece estimadores de stacking (desde a versão 0.22)
  2. Compatível com outros estimadores do scikit-learn
  3. O estimador final é treinado com validação cruzada
Métodos de Ensemble em Python

Etapas gerais

Etapas da arquitetura de Stacking

Etapas gerais de implementação:

  1. Preparar o conjunto de dados
  2. Construir os estimadores da 1ª camada
  3. Anexar as previsões ao conjunto de dados
  4. Construir o metaestimador da 2ª camada
  5. Usar o ensemble empilhado para prever
Métodos de Ensemble em Python

Classificador Stacking

from sklearn.ensemble import StackingClassifier

# Instanciar os classificadores da 1ª camada
classifiers = [
    ('clf1', Classifier1(params1)),
    ('clf2', Classifier2(params2)),
    ...
    ('clfN', ClassifierN(paramsN))
]

# Instanciar o classificador da 2ª camada
clf_meta = ClassifierMeta(paramsMeta)

# Construir o classificador Stacking
clf_stack = StackingClassifier(
   estimators=classifiers,
   final_estimator=clf_meta,
   cv=5,
   stack_method='predict_proba',
   passthrough=False)

# Usar os métodos fit e predict
clf_stack.fit(X_train, y_train)
pred = clf_stack.predict(X_test)
Métodos de Ensemble em Python

Regressor Stacking

from sklearn.ensemble import StackingRegressor

# Instanciar os regressores da 1ª camada
regressors = [
    ('reg1', Regressor1(params1)),
    ('reg2', Regressor2(params2)),
    ...
    ('regN', RegressorN(paramsN))    
]

# Instanciar o regressOR da 2ª camada
reg_meta = RegressorMeta(paramsMeta)

# Construir o regressor Stacking
reg_stack = StackingRegressor(
   estimators=regressors,
   final_estimator=reg_meta,
   cv=5,
   passthrough=False)

# Usar os métodos fit e predict
reg_stack.fit(X_train, y_train)
pred = reg_stack.predict(X_test)
Métodos de Ensemble em Python

É a sua vez!

Métodos de Ensemble em Python

Preparing Video For Download...