¡Dale caña a mlxtend!

Ensemble Methods in Python

Román de las Heras

Data Scientist, Appodeal

Mlxtend

Extensiones de Machine Learning
Utilidades y herramientas para Data Science:
- Selección de características
- Métodos de conjunto (ensemble)
- Visualización
- Evaluación de modelos
API intuitiva y amigable
Compatible con estimadores de scikit-learn

¹ Raschka, Sebastian (2018) MLxtend: Utilidades y extensiones de Machine Learning y Data Science para el ecosistema de computación científica de Python: https://rasbt.github.io/mlxtend/

Implementación de stacking en mlxtend

Características:

Los estimadores individuales se entrenan con todas las variables
El metaestimador se entrena usando las predicciones como únicas meta-características
El metaestimador puede entrenarse con etiquetas o probabilidades como objetivo

StackingClassifier con mlxtend

from mlxtend.classifier 
    import StackingClassifier

# Instancia los clasificadores de la 1.ª capa
clf1 = Classifier1(params1)
clf2 = Classifier2(params2)
...
clfN = ClassifierN(paramsN)

# Instancia el clasificador de la 2.ª capa
clf_meta = ClassifierMeta(paramsMeta)

# Construye el clasificador Stacking
clf_stack = StackingClassifier(
   classifiers=[clf1, clf2, ... clfN],
   meta_classifier=clf_meta,
   use_probas=False,
   use_features_in_secondary=False)

# Usa los métodos fit y predict
# como con los estimadores de scikit-learn
clf_stack.fit(X_train, y_train)
pred = clf_stack.predict(X_test)

StackingRegressor con mlxtend

from mlxtend.regressor 
    import StackingRegressor

# Instancia los regresores de la 1.ª capa
reg1 = Regressor1(params1)
reg2 = Regressor2(params2)
...
regN = RegressorN(paramsN)

# Instancia el regresor de la 2.ª capa
reg_meta = RegressorMeta(paramsMeta)

# Construye el regresor Stacking
reg_stack = StackingRegressor(
   regressors=[reg1, reg2, ... regN],
   meta_regressor=reg_meta,
   use_features_in_secondary=False)

# Usa los métodos fit y predict
# como con los estimadores de scikit-learn
reg_stack.fit(X_train, y_train)
pred = reg_stack.predict(X_test)

¡Dale caña a mlxtend!

Ensemble Methods in Python