RBF-kärnan

Support Vector Machines i R

Kailash Awati

Instructor

RBF-kärnan i korthet

Avtagande funktion av avståndet mellan två punkter i datamängden.
Simulerar k-NN-algoritmen.

Kapitel 4.3 – RBF-kärna – inflytande som funktion av avståndet mellan punkter

Bygga en SVM med RBF-kärnan

Bygg en RBF-kärna-SVM för en komplex datamängd

svm_model <- svm(y ~ ., 
                data = trainset, 
                type = "C-classification",
                kernel = "radial")

Beräkna tränings-/testnoggrannhet och plotta mot träningsdatamängden.

pred_train <- predict(svm_model, trainset)
mean(pred_train == trainset$y)

0.93125

pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

0.9416667

#plot decision boundary
plot(svm_model, trainset)

Kapitel 4.3 – komplex datamängd, standard RBF-kärna, plot med svm.plot

Förfina beslutsgränsen

Finjustera gamma och cost med tune.svm()

# Tune parameters
tune_out <- tune.svm(x = trainset[,-3],
                     y = trainset[,3],
                     gamma = 5 * 10 ^ (-2:2),
                     cost = c(0.01, 0.1, 1, 10, 100),
                     type = "C-classification",
                     kernel = "radial")

Skriv ut de bästa parametrarna

# Print best values of cost and gamma
tune_out$best.parameters$cost

tune_out$best.parameters$gamma

Den finjusterade modellen

Bygg en finjusterad modell med best.parameters

svm_model <- svm(y ~ ., data = trainset, 
              type = "C-classification", 
              kernel = "radial",
              cost = tune_out$best.parameters$cost,
              gamma = tune_out$best.parameters$gamma)

Beräkna testnoggrannhet

mean(pred_test == testset$y)

0.95

Plotta beslutsgränsen

plot(svm_model, trainset)

Kapitel 4.3 – komplex datamängd, finjusterad RBF-kärna, plot med svm.plot

Nu kör vi en övning!

Support Vector Machines i R