Régression logistique : retour
Analyse de sentiments en Python
Violeta Misheva
Data Scientist
Modèles complexes et régularisation
Modèles complexes :
- Modèle complexe qui capte le bruit des données (surapprentissage)
- Grand nombre de caractéristiques ou de paramètres
Régularisation :
- Méthode pour simplifier et obtenir un modèle moins complexe
Régularisation dans une régression logistique
from sklearn.linear_model import LogisticRegression
# Arguments de régularisation
LogisticRegression(penalty='l2', C=1.0)
- L2 : réduit tous les coefficients vers zéro
- Valeurs élevées de C : faible pénalisation, le modèle ajuste bien les données d'entraînement.
- Valeurs faibles de C : forte pénalisation, modèle moins flexible.
Prédire une probabilité vs. prédire une classe
log_reg = LogisticRegression().fit(X_train, y_train)
# Prédire les étiquettes
y_predicted = log_reg.predict(X_test)
# Prédire les probabilités
y_probab = log_reg.predict_proba(X_test)
Prédire une probabilité vs. prédire une classe
y_probab
array([[0.5002245, 0.4997755],
[0.4900345, 0.5099655],
...,
[0.7040499, 0.2959501]])
# Sélectionner les probabilités de la classe 1
y_probab = log_reg.predict_proba(X_test)[:, 1]
array([0.4997755, 0.5099655 ..., 0.2959501]])
Métriques du modèle avec des probabilités prédites
- Lève ValueError lorsqu'appliqué à des probabilités.
- L'accuracy et la matrice de confusion fonctionnent avec des classes.
# Encodage de probabilité par défaut :
# Si probabilité >= 0.5, alors classe 1 sinon classe 0
Passons à la pratique !
Analyse de sentiments en Python
