로지스틱 회귀와 SVM 비교

Python으로 배우는 선형 분류기

Michael (Mike) Gelbart

Instructor, The University of British Columbia

로지스틱 회귀:

  • 선형 분류기입니다
  • 커널 사용 가능하지만 느립니다
  • 의미 있는 확률을 출력합니다
  • 다중 클래스로 확장 가능합니다
  • 모든 데이터 포인트가 적합에 영향을 줍니다
  • L2 또는 L1 규제

서포트 벡터 머신 (SVM):

  • 선형 분류기입니다
  • 커널 사용 가능하고 빠릅니다
  • 확률을 기본적으로 출력하지 않습니다
  • 다중 클래스로 확장 가능합니다
  • "서포트 벡터"만 적합에 영향을 줍니다
  • 일반적으로 L2 규제만 사용합니다
Python으로 배우는 선형 분류기

scikit-learn에서의 사용

sklearn의 로지스틱 회귀:

  • linear_model.LogisticRegression

sklearn의 주요 하이퍼파라미터:

  • C (규제 강도의 역수)
  • penalty (규제 유형)
  • multi_class (다중 클래스 유형)

sklearn의 SVM:

  • svm.LinearSVC 및 svm.SVC
Python으로 배우는 선형 분류기

scikit-learn에서의 사용 (계속)

sklearn의 주요 하이퍼파라미터:

  • C (규제 강도의 역수)
  • kernel (커널 유형)
  • gamma (RBF 평활도의 역수)
Python으로 배우는 선형 분류기

SGDClassifier

SGDClassifier: 대용량 데이터셋에 잘 확장됩니다

from sklearn.linear_model import SGDClassifier

logreg = SGDClassifier(loss='log_loss')

linsvm = SGDClassifier(loss='hinge')
  • SGDClassifier 하이퍼파라미터 alpha는 1/C와 유사합니다
Python으로 배우는 선형 분류기

연습해 봅시다!

Python으로 배우는 선형 분류기

Preparing Video For Download...