Appliquer la régression logistique et les SVM

Classifieurs linéaires en Python

Michael (Mike) Gelbart

Instructor, The University of British Columbia

Utiliser LogisticRegression

from sklearn.linear_model import LogisticRegression

lr = LogisticRegression()

lr.fit(X_train, y_train)

lr.predict(X_test)

lr.score(X_test, y_test)

Exemple avec LogisticRegression

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.linear_model import LogisticRegression
lr = LogisticRegression()
lr.fit(wine.data, wine.target)

lr.score(wine.data, wine.target)

0.966

lr.predict_proba(wine.data[:1])

array([[9.966e-01, 2.740e-03, 6.787e-04]])

Utiliser LinearSVC

LinearSVC fonctionne de la même manière :

import sklearn.datasets

wine = sklearn.datasets.load_wine()

from sklearn.svm import LinearSVC

svm = LinearSVC()

svm.fit(wine.data, wine.target)

svm.score(wine.data, wine.target)

0.955

Utiliser SVC

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.svm import SVC
svm = SVC()
svm.fit(wine.data, wine.target);

svm.score(wine.data, wine.target)

0.708

Rappel sur la complexité du modèle :

Sous-apprentissage : modèle trop simple, faible précision sur l'entraînement
Surapprentissage : modèle trop complexe, faible précision sur le test

Passons à la pratique !

Classifieurs linéaires en Python