CTR-Vorhersage mit Entscheidungsbäumen

CTR-Vorhersage mit Machine Learning in Python

Kevin Huo

Instructor

Entscheidungsbäume

Beispiel-Entscheidungsbaum zur Kreditvergabe nach Alter und Studierendenstatus

  • Knoten stehen für Features
  • Äste stehen für featurebasierte Entscheidungen
  • Beispielergebnisse in der Tabelle unten:
  • Erster Split basiert auf dem Alter der Antragstellung
  • Für die Gruppe „jung“: zweiter Split nach Studierendenstatus
  • Das Modell liefert Heuristiken zum Verständnis
is_student loan
middle_aged 1
youth no 0
youth yes 1
CTR-Vorhersage mit Machine Learning in Python

Modell trainieren und testen

  • Erstellen mit: clf = DecisionTreeClassifier()
  • Wie bei logistischer Regression: clf.fit(X_train, y_train) trainiert, clf.predict(X_test) sagt Labels voraus:

    array([0, 1, 1, ..., 1, 0, 1])
    
  • clf.predict_proba(X_test) für Wahrscheinlichkeiten:

    array([0.2, 0.8], [0.4, 0.6] ..., [0.1, 0.9] [0.3, 0.7]])
    
  • Beispiel für zufälliges Train/Test-Split, Test = 30% der Stichprobe: train_test_split(X, y, test_size = .3, random_state = 0)

CTR-Vorhersage mit Machine Learning in Python

Bewertung mit ROC-Kurve

Beispiel: Fläche unter der ROC-Kurve für einen Klassifikator

  • True-Positive-Rate (Y-Achse) = #(Klassifikator sagt positiv, tatsächlich positiv) / #(Positive)
  • False-Positive-Rate (X-Achse) = #(Klassifikator sagt positiv, tatsächlich negativ) / #(Negative)
  • Gepunktete blaue Linie: Basis-AUC 0,5
  • Orange Linie (AUC) soll möglichst nahe 1 liegen
CTR-Vorhersage mit Machine Learning in Python

AUC der ROC-Kurve

Y_score = clf.predict_proba(X_test)
fpr, tpr, thresholds = roc_curve(Y_test, Y_score[:, 1])
  • roc_curve() Eingaben: Test- und Score-Arrays
roc_auc = auc(fpr, tpr)
  • auc() Eingaben: False-Positive- und True-Positive-Arrays

  • Wenn das Modell genau ist und die CTR niedrig bleibt, prüfe Anzeigentext und Zielgruppe neu

CTR-Vorhersage mit Machine Learning in Python

Lass uns üben!

CTR-Vorhersage mit Machine Learning in Python

Preparing Video For Download...