放射状分離データへの線形SVM

Rで学ぶSupport Vector Machines

Kailash Awati

Instructor

線形SVM、cost = 1

放射状分離データを訓練/テストに分割（seed = 10）

# Build default cost linear SVM on training set

svm_model <- svm(y ~ ., data = trainset, type = "C-classification", kernel = "linear", cost = 1)
svm_model

Number of Support Vectors:  126

# Calculate accuracy on test set

pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

0.6129032

plot(svm_model, trainset)

第3章2節 - 放射状分離データ、デフォルトコスト線形カーネル、svm.plotによる図

線形SVM、cost = 100

svm_model <- svm(y ~ ., data = trainset, type = "C-classification", kernel = "linear", cost = 100)
svm_model

Number of Support Vectors:  136

# Accuracy
pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

0.6129032

plot(svm_model, trainset)

第3章2節 - 放射状分離データ、cost=100線形カーネル、svm.plotによる図

精度のより良い推定

複数の独立した訓練/テスト分割で平均精度を算出します。
結果の標準偏差を確認し、ばらつきを把握します。

デフォルトコストSVMの平均精度

accuracy <- rep(NA, 100)
set.seed(10)
for (i in 1:100) {
  sample_size <- floor(0.8 * nrow(df))
  train <- sample(seq_len(nrow(df)), size = sample_size)
  trainset <- df[train, ]
  testset <- df[-train, ]
  svm_model<- svm(y ~ ., data = trainset, type = "C-classification", cost = 1, kernel = "linear")
  pred_test <- predict(svm_model, testset)
  accuracy[i] <- mean(pred_test == testset$y)}
mean(accuracy)
sd(accuracy)

0.544
0.04273184

線形SVMの性能はどの程度か？

コイントスとほぼ変わらない結果！
境界の知識を活用すれば、大幅に改善できます。

練習しましょう！

Rで学ぶSupport Vector Machines