Застосування логістичної регресії та SVM

Лінійні класифікатори в Python

Michael (Mike) Gelbart

Instructor, The University of British Columbia

Використання LogisticRegression

from sklearn.linear_model import LogisticRegression

lr = LogisticRegression()

lr.fit(X_train, y_train)

lr.predict(X_test)

lr.score(X_test, y_test)

Приклад LogisticRegression

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.linear_model import LogisticRegression
lr = LogisticRegression()
lr.fit(wine.data, wine.target)

lr.score(wine.data, wine.target)

0.966

lr.predict_proba(wine.data[:1])

array([[9.966e-01, 2.740e-03, 6.787e-04]])

Використання LinearSVC

LinearSVC працює так само:

import sklearn.datasets

wine = sklearn.datasets.load_wine()

from sklearn.svm import LinearSVC

svm = LinearSVC()

svm.fit(wine.data, wine.target)

svm.score(wine.data, wine.target)

0.955

Використання SVC

import sklearn.datasets
wine = sklearn.datasets.load_wine()

from sklearn.svm import SVC
svm = SVC()
svm.fit(wine.data, wine.target);

svm.score(wine.data, wine.target)

0.708

Огляд складності моделі:

Недонавчання: модель надто проста, низька точність на тренуванні
Перенавчання: модель надто складна, низька точність на тесті

Давайте потренуємось!

Лінійні класифікатори в Python