Przewidywanie CTR za pomocą drzew decyzyjnych

Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

Kevin Huo

Instructor

Drzewa decyzyjne

Przykład drzewa decyzyjnego do przyznawania kredytów na podstawie wieku i statusu studenta

  • Węzły reprezentują cechy
  • Gałęzie reprezentują decyzje na podstawie cech
  • Przykładowe wyniki przedstawia poniższa tabela:
  • Pierwsze podziały są oparte na wieku wnioskodawcy
  • Dla grupy młodych drugie podziały są oparte na statusie studenta
  • Model dostarcza heurystyk ułatwiających interpretację
is_student loan
middle_aged 1
youth no 0
youth yes 1
Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

Trenowanie i testowanie modelu

  • Tworzenie: clf = DecisionTreeClassifier()
  • Podobnie jak regresja logistyczna, drzewo decyzyjne używa clf.fit(X_train, y_train) do trenowania i clf.predict(X_test) do przewidywania etykiet:

    array([0, 1, 1, ..., 1, 0, 1])
    
  • clf.predict_proba(X_test) do uzyskania prawdopodobieństw:

    array([0.2, 0.8], [0.4, 0.6] ..., [0.1, 0.9] [0.3, 0.7]])
    
  • Przykład losowego podziału na dane treningowe i testowe, gdzie dane testowe stanowią 30% próby: train_test_split(X, y, test_size = .3, random_state = 0)

Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

Ewaluacja za pomocą krzywej ROC

Przykład pola pod krzywą ROC dla klasyfikatora

  • Czułość (oś Y) = #(klasyfikator przewiduje pozytywny, faktycznie pozytywny) / #(pozytywnych)
  • Odsetek fałszywych alarmów (oś X) = #(klasyfikator przewiduje pozytywny, faktycznie negatywny) / #(negatywnych)
  • Przerywana niebieska linia: bazowe AUC = 0,5
  • Pomarańczowa linia (AUC) powinna być jak najbliżej 1
Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

AUC krzywej ROC

Y_score = clf.predict_proba(X_test)
fpr, tpr, thresholds = roc_curve(Y_test, Y_score[:, 1])
  • roc_curve() — dane wejściowe: tablice testowa i wynikowa
roc_auc = auc(fpr, tpr)
  • auc() — dane wejściowe: tablice fałszywych i prawdziwych wyników pozytywnych

  • Jeśli model jest dokładny, a CTR niski, warto ponownie ocenić przekaz reklamy i docelową grupę odbiorców

Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

Czas na ćwiczenia!

Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie

Preparing Video For Download...