Modelle tunen

CTR-Vorhersage mit Machine Learning in Python

Kevin Huo

Instructor

Regularisierung

Beispiel zur Regularisierung mit blauer und grüner Linie

Regularisierung: Überanpassung verringern, indem man die Koeffizienten im Modell begrenzt
Regularisierung kann Metriken und damit den ROI der Anzeigen steigern

Beispiele für Regularisierung

Logistische Regression: Der Parameter C ist der Kehrwert der Regularisierungsstärke.
Von wenig bis sehr komplex: C=0.05 < C=0.5 < C=1
Entscheidungsbaum: Der Parameter max_depth steuert, wie viele Ebenen der Baum haben darf.
Von wenig bis sehr komplex: max_depth=3 < max_depth=5 < max_depth=10

Kreuzvalidierung

K-fache Kreuzvalidierung

In jedem der k Folds dient dieser Fold als Testset (zur Validierung), die anderen k-1 als Trainingsset.
So erhältst du k Bewertungen der Modellleistung.
Ein separates finales Testset gibt es weiterhin.

Beispiele für Kreuzvalidierung

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')

Scoring-Strings: precision_weighted, recall_weighted, roc_auc

Lass uns üben!

CTR-Vorhersage mit Machine Learning in Python