Övervakade inlärningspipelines
Att designa maskininlärningsflöden i Python
Dr. Chris Anagnostopoulos
Honorary Associate Professor
Etiketterade data
- Särdragsvariabler (förkortning:
X) - Etiketter eller klass (förkortning:
y)
credit_scoring.head(4)
checking_status duration ... foreign_worker class
0 '<0' 6 ... yes good
1 '0<=X<200' 48 ... yes bad
2 'no checking' 12 ... yes good
3 '<0' 42 ... yes good
Särdragskonstruktion
- De flesta klassificerare kräver numeriska särdrag
- Strängkolumner behöver konverteras till tal
Förbearbeta med LabelEncoder från sklearn.preprocessing:
le = LabelEncoder()
le.fit_transform(credit_scoring['checking_status'])[:4]
array([1, 0, 3, 1])
Modellanpassning
.fit(features, labels).predict(features)
features, labels = credit_scoring.drop('class', 1), credit_scoring['class']model_nb = GaussianNB() model_nb.fit(features, labels) model_nb.predict(features.head(5))
['good' 'bad' 'good' 'bad' 'good']
60% noggrannhet på de första 5 exemplen.
Modellval
.fit()optimerar parametrarna för den givna modellen- Vad händer med andra modeller?
AdaBoostClassifier presterar bättre än GaussianNB på de första fem datapunkterna:
model_ab = AdaBoostClassifier()
model_ab.fit(features, labels)
model_ab.predict(features.head(5))
numpy.array(labels[0:5])
['good' 'bad' 'good' 'good' 'bad']
['good' 'bad' 'good' 'good' 'bad']
Prestandautvärdering
Större urvalsstorlekar $\Rightarrow$ bättre noggrannhetsuppskattningar:
from sklearn.metrics import accuracy_score
accuracy_score(labels, model_nb.predict(features)) # naive bayes
0.706
accuracy_score(labels, model_ab.predict(features)) # adaboost
0.802
Vad är fel med den här beräkningen?
Överanpassning och datadelning
Överanpassning: en modell presterar alltid bättre på träningsdata än på osedd data.
Träna på X_train, y_train, utvärdera noggrannhet på X_test, y_test:
from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)GaussianNB().fit(X_train, y_train).predict(X_test)
Vad handlar kursen om?
- Skalbara sätt att finjustera din pipeline.
- Säkerställa att dina förutsägelser är relevanta genom att involvera domänexperter.
- Säkerställa att modellen fortsätter prestera väl över tid.
- Anpassa modeller när du saknar tillräckligt med etiketter.
Kunde du ha förhindrat bolånekrisen?
Att designa maskininlärningsflöden i Python
