Tinjauan pipeline dengan sklearn

Extreme Gradient Boosting dengan XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Tinjauan pipeline

Menerima daftar 2-tuple bernama (name, pipeline_step) sebagai masukan
Tuple dapat memuat estimator atau transformer apa pun yang kompatibel dengan scikit-learn
Pipeline mengimplementasikan metode fit/predict
Dapat digunakan sebagai estimator masukan dalam grid/randomized search dan metode cross_val_score

Contoh pipeline scikit-learn

import pandas as pd
from sklearn.ensemble import RandomForestRegressor
import numpy as np
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline
from sklearn.model_selection import cross_val_score

names = ["crime","zone","industry","charles","no","rooms",
        "age", "distance","radial","tax","pupil","aam","lower","med_price"]

data = pd.read_csv("boston_housing.csv",names=names)

X, y = data.iloc[:,:-1], data.iloc[:,-1]

rf_pipeline = Pipeline[("st_scaler", 
                StandardScaler()),
                ("rf_model",RandomForestRegressor())]

scores = cross_val_score(rf_pipeline,X,y,    
scoring="neg_mean_squared_error",cv=10)

Contoh pipeline scikit-learn

final_avg_rmse = np.mean(np.sqrt(np.abs(scores)))

print("Final RMSE:", final_avg_rmse)

Final RMSE: 4.54530686529

Prapemrosesan I: LabelEncoder dan OneHotEncoder

LabelEncoder: Mengonversi kolom kategorikal berupa string menjadi bilangan bulat
OneHotEncoder: Mengambil kolom bilangan bulat dan menyandikannya sebagai variabel dummy
Tidak dapat dilakukan di dalam pipeline

Prapemrosesan II: DictVectorizer

Secara tradisional digunakan dalam pemrosesan teks
Mengonversi daftar pemetaan fitur menjadi vektor
Perlu mengonversi DataFrame menjadi daftar entri kamus
Jelajahi dokumentasi scikit-learn

Ayo membangun pipeline!

Extreme Gradient Boosting dengan XGBoost