Revizuirea și compararea modelelor
Predicția CTR cu Machine Learning în Python
Kevin Huo
Instructor
Revizuirea modelelor
from sklearn.linear_model import LogisticRegression
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.neural_network import MLPClassifier
- Regresie logistică: clasificator liniar care identifică granița de decizie
- Arbori de decizie: condiții în format arbore
- Păduri aleatoare: ansamblu de arbori de decizie
- Rețele neuronale (MLP): straturi cu combinații liniare de caracteristici și funcție de activare neliniară
Implementarea modelelor
Asemănări
- Transformarea caracteristicilor și regularizarea
- Antrenare prin
classifier.fit(X_train, y_train) - Predicții prin
predict_proba()șipredict()
Diferențe
- Arbori de decizie:
max_depth,min_samples_split - Păduri aleatoare:
n_estimators,oob_score - Regresie logistică:
fit_intercept,class_weight - Rețele neuronale:
hidden_layer_sizes,max_iter
Evaluarea modelelor
- Metrici cheie de evaluare:
- Matrice de confuzie:
confusion_matrix(y_test, y_pred) - Precizie:
precision_score(y_test, y_pred) - Recall:
recall_score(y_test, y_pred) - Scor F-beta:
fbeta_score(y_test, y_pred, beta = 0.5) - AUC al curbei ROC:
roc_auc_score(y_test, y_score[:, 1])
- Matrice de confuzie:
Avantaje și dezavantaje principale ale rețelelor neuronale
Avantaje
- Scalabilitate cu datele
- Necesitate redusă de inginerie a caracteristicilor
- Mai transferabile între domenii
Dezavantaje
- Mai puțin eficiente pe seturi mici de date
- Dificil de interpretat
- Cost computațional și financiar mai ridicat
Să exersăm!
Predicția CTR cu Machine Learning în Python
