Применение логистической регрессии и SVM

Линейные классификаторы в Python

Michael (Mike) Gelbart

Instructor, The University of British Columbia

Использование LogisticRegression

from sklearn.linear_model import LogisticRegression

lr = LogisticRegression()

lr.fit(X_train, y_train)

lr.predict(X_test)

lr.score(X_test, y_test)

Пример LogisticRegression

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.linear_model import LogisticRegression
lr = LogisticRegression()
lr.fit(wine.data, wine.target)

lr.score(wine.data, wine.target)

0.966

lr.predict_proba(wine.data[:1])

array([[9.966e-01, 2.740e-03, 6.787e-04]])

Использование LinearSVC

LinearSVC работает аналогично:

import sklearn.datasets

wine = sklearn.datasets.load_wine()

from sklearn.svm import LinearSVC

svm = LinearSVC()

svm.fit(wine.data, wine.target)

svm.score(wine.data, wine.target)

0.955

Использование SVC

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.svm import SVC
svm = SVC()
svm.fit(wine.data, wine.target);

svm.score(wine.data, wine.target)

0.708

Сложность модели:

Недообучение: модель слишком проста, низкая точность на обучении
Переобучение: модель слишком сложна, низкая точность на тесте

Давайте потренируемся!

Линейные классификаторы в Python