Mașini vectoriale de suport liniare

Support Vector Machines în R

Kailash Awati

Instructor

Împărțire în seturi de antrenament și test

Setul de date generat în capitolul anterior se află în dataframe-ul df.
Împărțiți setul de date în seturi de antrenament și test

Împărțire aleatoare 80/20

# Set seed for reproducibility
set.seed(1)
# Set the upper bound for the number of rows to be in the training set
sample_size <- floor(0.8 * nrow(df))
# Assign rows to training/test sets randomly in 80/20 proportion
train <- sample(seq_len(nrow(df)), size = sample_size)
# Separate training and test sets
trainset <- df[train, ]
testset <- df[-train, ]

Granițe de decizie și kernel-uri

Granițele de decizie pot avea forme diferite - linii, polinoame sau funcții mai complexe.
Tipul graniței de decizie se numește kernel.
Kernel-ul trebuie specificat în avans.
Acest capitol se concentrează pe kernel-uri liniare.

SVM cu kernel liniar

Vom folosi funcția svm din biblioteca e1071.
Funcția are mai mulți parametri. Vom seta explicit următorii:
- formula - o formulă care specifică variabila dependentă. y în cazul nostru.
- data - dataframe-ul cu datele - adică trainset.
- type - setat la C-classification (problemă de clasificare).
- kernel - forma graniței de decizie, liniară în acest caz.
- cost și gamma - parametri utilizați pentru ajustarea modelului.
- scale - valoare booleană care indică dacă datele sunt scalate.

Construirea unui SVM liniar

Încărcați biblioteca e1071 și apelați funcția svm()

library(e1071)

svm_model<- svm(y ~ .,
                data = trainset, 
                type = "C-classification", 
                kernel = "linear", 
                scale = FALSE)

Prezentare generală a modelului

Introducând svm_model se obține:
- o prezentare generală a modelului, inclusiv tipul de clasificare și kernel
- valorile parametrilor de ajustare

svm_model

Call:
svm(formula = y ~ .,
    data = trainset,
    type = "C-classification",
    kernel = "linear", 
    scale = FALSE)

Parameters:
   SVM-Type:  C-classification 
 SVM-Kernel:  linear 
       cost:  1 
      gamma:  0.5

Number of Support Vectors:  55

# Index of support vectors in training dataset
svm_model$index

# Support vectors
svm_model$SV

# Negative intercept (unweighted)
svm_model$rho

# Weighting coefficients for support vectors
svm_model$coefs

4   8  10  11  18  37  38  39  47  59  60  74  76  77  78  80  83 ...

             x1         x2
5   0.519095949 0.44232464

-0.1087075

            [,1]
 [1,]  1.0000000

Obțineți predicții de clasă pentru seturile de antrenament și test.
Evaluați acuratețea modelului pe ambele seturi.

# Training accuracy
pred_train <- predict(svm_model, trainset)
mean(pred_train == trainset$y)

# Test accuracy
pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

1
# Perfect!!

Timp pentru practică!

Support Vector Machines în R