Обзор и сравнение моделей
Прогнозирование CTR с помощью машинного обучения на Python
Kevin Huo
Instructor
Обзор моделей
from sklearn.linear_model import LogisticRegression
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.neural_network import MLPClassifier
- Логистическая регрессия: линейный классификатор, определяющий границу решения
- Деревья решений: условия в виде дерева
- Случайные леса: ансамбль деревьев решений
- Нейронные сети (MLP): слои с линейными комбинациями признаков и нелинейной функцией активации
Реализация моделей
Сходства
- Преобразование признаков и регуляризация
- Обучение через
classifier.fit(X_train, y_train) - Предсказания через
predict_proba()иpredict()
Различия
- Деревья решений:
max_depth,min_samples_split - Случайные леса:
n_estimators,oob_score - Логистическая регрессия:
fit_intercept,class_weight - Нейронные сети:
hidden_layer_sizes,max_iter
Оценка моделей
- Ключевые метрики оценки:
- Матрица ошибок:
confusion_matrix(y_test, y_pred) - Точность:
precision_score(y_test, y_pred) - Полнота:
recall_score(y_test, y_pred) - F-бета-мера:
fbeta_score(y_test, y_pred, beta = 0.5) - AUC ROC-кривой:
roc_auc_score(y_test, y_score[:, 1])
- Матрица ошибок:
Основные плюсы и минусы нейронных сетей
Преимущества
- Масштабируемость с ростом данных
- Меньше потребности в инжиниринге признаков
- Хорошо переносятся между областями применения
Недостатки
- Слабее работают на небольших наборах данных
- Сложны для интерпретации
- Требуют значительных вычислительных и финансовых ресурсов
Давайте потренируемся!
Прогнозирование CTR с помощью машинного обучения на Python
