มาใช้ mlxtend กันเลย!

Ensemble Methods ใน Python

Román de las Heras

Data Scientist, Appodeal

Mlxtend

Machine Learning Extensions
เครื่องมือสำหรับงาน Data Science:
- การเลือก Feature
- วิธี Ensemble
- การแสดงผล
- การประเมินโมเดล
API ใช้งานง่าย
รองรับ estimator ของ scikit-learn

¹ Raschka, Sebastian (2018) MLxtend: Providing machine learning and data science utilities and extensions to Python's scientific computing stack: https://rasbt.github.io/mlxtend/

การใช้งาน Stacking จาก mlxtend

คุณสมบัติ:

estimator แต่ละตัวฝึกบน feature ทั้งหมด
meta-estimator ฝึกโดยใช้ผลการพยากรณ์เป็น meta-feature เพียงอย่างเดียว
meta-estimator ฝึกได้ทั้งด้วย label หรือความน่าจะเป็น

StackingClassifier ด้วย mlxtend

from mlxtend.classifier 
    import StackingClassifier

# Instantiate the 1st-layer classifiers
clf1 = Classifier1(params1)
clf2 = Classifier2(params2)
...
clfN = ClassifierN(paramsN)

# Instantiate the 2nd-layer classifier
clf_meta = ClassifierMeta(paramsMeta)

# Build the Stacking classifier
clf_stack = StackingClassifier(
   classifiers=[clf1, clf2, ... clfN],
   meta_classifier=clf_meta,
   use_probas=False,
   use_features_in_secondary=False)

# Use the fit and predict methods
# like with scikit-learn estimators
clf_stack.fit(X_train, y_train)
pred = clf_stack.predict(X_test)

StackingRegressor ด้วย mlxtend

from mlxtend.regressor 
    import StackingRegressor

# Instantiate the 1st-layer regressors
reg1 = Regressor1(params1)
reg2 = Regressor2(params2)
...
regN = RegressorN(paramsN)

# Instantiate the 2nd-layer regressor
reg_meta = RegressorMeta(paramsMeta)

# Build the Stacking regressor
reg_stack = StackingRegressor(
   regressors=[reg1, reg2, ... regN],
   meta_regressor=reg_meta,
   use_features_in_secondary=False)

# Use the fit and predict methods
# like with scikit-learn estimators
reg_stack.fit(X_train, y_train)
pred = reg_stack.predict(X_test)

มาใช้ mlxtend กันเลย!

Ensemble Methods ใน Python