Machines à vecteurs de support linéaires

Machines à vecteurs de support en R

Kailash Awati

Instructor

Découper en entraînement et test

Le jeu de données généré au chapitre précédent est dans le dataframe df.
Séparez en ensembles d'entraînement et de test

Découpage aléatoire 80/20

# Définir la graine pour la reproductibilité
set.seed(1)
# Définir la taille de l'ensemble d'entraînement
sample_size <- floor(0.8 * nrow(df))
# Assigner aléatoirement les lignes en proportion 80/20
train <- sample(seq_len(nrow(df)), size = sample_size)
# Séparer les ensembles d'entraînement et de test
trainset <- df[train, ]
testset <- df[-train, ]

Frontières de décision et noyaux

Les frontières de décision peuvent avoir diverses formes : droites, polynômes ou fonctions plus complexes.
Le type de frontière de décision s'appelle un noyau.
Le noyau doit être indiqué à l'avance.
Ce chapitre se concentre sur les noyaux linéaires.

SVM avec noyau linéaire

Nous utiliserons la fonction svm de la bibliothèque e1071.
La fonction a plusieurs paramètres. Nous fixerons explicitement :
- formula : formule qui précise la variable dépendante, y ici.
- data : dataframe contenant les données, c.-à-d. trainset.
- type : défini sur C-classification (problème de classification).
- kernel : forme de la frontière de décision, linéaire ici.
- cost et gamma : paramètres pour ajuster le modèle.
- scale : booléen indiquant s'il faut standardiser les données.

Construire un SVM linéaire

Chargez la bibliothèque e1071 et appelez la fonction svm()

library(e1071)

svm_model<- svm(y ~ .,
                data = trainset, 
                type = "C-classification", 
                kernel = "linear", 
                scale = FALSE)

Aperçu du modèle

Afficher svm_model donne :
- un aperçu du modèle, dont les types de classification et de noyau
- les valeurs des hyperparamètres

svm_model

Call:
svm(formula = y ~ .,
    data = trainset,
    type = "C-classification",
    kernel = "linear", 
    scale = FALSE)

Parameters:
   SVM-Type:  C-classification 
 SVM-Kernel:  linear 
       cost:  1 
      gamma:  0.5

Number of Support Vectors:  55

# Index des vecteurs de support dans l'ensemble d'entraînement
svm_model$index

# Vecteurs de support
svm_model$SV

# Interception négative (non pondérée)
svm_model$rho

# Coefficients de pondération des vecteurs de support
svm_model$coefs

4   8  10  11  18  37  38  39  47  59  60  74  76  77  78  80  83 ...

             x1         x2
5   0.519095949 0.44232464

-0.1087075

            [,1]
 [1,]  1.0000000

Obtenez les prédictions de classe pour entraînement et test.
Évaluez la précision sur les ensembles d'entraînement et de test.

# Précision entraînement
pred_train <- predict(svm_model, trainset)
mean(pred_train == trainset$y)

# Précision test
pred_test <- predict(svm_model, testset)
mean(pred_test == testset$y)

1
# Parfait !!

Passons à la pratique !

Machines à vecteurs de support en R