SVM liniar pe date separabile radial

Support Vector Machines în R

Kailash Awati

Instructor

SVM liniar, cost = 1

Împărțiți setul de date separabil radial în antrenare/testare (seed = 10)

# Build default cost linear SVM on training set

svm_model <- svm(y ~ ., data = trainset, type = "C-classification", kernel = "linear", cost = 1)
svm_model

Number of Support Vectors:  126

# Calculate accuracy on test set

pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

0.6129032

plot(svm_model, trainset)

Set de date separabil radial, SVM liniar cu cost implicit, reprezentare grafică cu svm.plot

SVM liniar, cost = 100

svm_model <- svm(y ~ ., data = trainset, type = "C-classification", kernel = "linear", cost = 100)
svm_model

Number of Support Vectors:  136

# Accuracy
pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

0.6129032

plot(svm_model, trainset)

Set de date separabil radial, SVM liniar cu cost=100, reprezentare grafică cu svm.plot

O estimare mai bună a acurateței

Calculați acuratețea medie pe mai multe împărțiri independente antrenare/testare.
Verificați deviația standard pentru a evalua variabilitatea rezultatelor.

Acuratețea medie pentru SVM cu cost implicit

accuracy <- rep(NA, 100)
set.seed(10)
for (i in 1:100) {
  sample_size <- floor(0.8 * nrow(df))
  train <- sample(seq_len(nrow(df)), size = sample_size)
  trainset <- df[train, ]
  testset <- df[-train, ]
  svm_model<- svm(y ~ ., data = trainset, type = "C-classification", cost = 1, kernel = "linear")
  pred_test <- predict(svm_model, testset)
  accuracy[i] <- mean(pred_test == testset$y)}
mean(accuracy)
sd(accuracy)

0.544
0.04273184

Cât de bine performează un SVM liniar?

Doar marginal mai bun decât aruncarea unui ban!
Cunoașterea frontierei ne permite să obținem rezultate mult mai bune.

Timp de practică!

Support Vector Machines în R