Ripasso delle pipeline con sklearn

Extreme Gradient Boosting con XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Ripasso delle pipeline

Accetta una lista di 2-uple nominate (name, pipeline_step) come input
Le tuple possono contenere qualsiasi stimatore o trasformatore compatibile con scikit-learn
Pipeline implementa i metodi fit/predict
Può essere usata come stimatore di input in grid/randomized search e nei metodi cross_val_score

Esempio di pipeline scikit-learn

import pandas as pd
from sklearn.ensemble import RandomForestRegressor
import numpy as np
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline
from sklearn.model_selection import cross_val_score

names = ["crime","zone","industry","charles","no","rooms",
        "age", "distance","radial","tax","pupil","aam","lower","med_price"]

data = pd.read_csv("boston_housing.csv",names=names)

X, y = data.iloc[:,:-1], data.iloc[:,-1]

rf_pipeline = Pipeline[("st_scaler", 
                StandardScaler()),
                ("rf_model",RandomForestRegressor())]

scores = cross_val_score(rf_pipeline,X,y,    
scoring="neg_mean_squared_error",cv=10)

Esempio di pipeline scikit-learn

final_avg_rmse = np.mean(np.sqrt(np.abs(scores)))

print("Final RMSE:", final_avg_rmse)

Final RMSE: 4.54530686529

Preprocessing I: LabelEncoder e OneHotEncoder

LabelEncoder: Converte una colonna categorica di stringhe in interi
OneHotEncoder: Prende la colonna di interi e la codifica come variabili fittizie
Non può essere fatto all'interno di una pipeline

Preprocessing II: DictVectorizer

Usato tradizionalmente nell'elaborazione del testo
Converte elenchi di mapping di feature in vettori
Serve convertire il DataFrame in un elenco di voci dizionario
Esplora la documentazione di scikit-learn

Costruiamo pipeline!

Extreme Gradient Boosting con XGBoost