Modélisation pour la classification

Introduction au traitement automatique des langues en R

Kasey Jones

Research Data Scientist

Récapitulatif des étapes

Nettoyer/préparer les données
- Filtrer les phrases de Boxer/Napoleon
- Créer des jetons nettoyés des mots
- Créer une matrice document-termes avec pondération TF‑IDF
Créer les ensembles d'entraînement et de test
Entraîner un modèle sur l'ensemble d'entraînement
Rapporter la justesse sur l'ensemble de test

Étape 2 : fractionner les données

set.seed(1111)
sample_size <- floor(0.80 * nrow(animal_matrix))
train_ind <- sample(nrow(animal_matrix), size = sample_size)

train <- animal_matrix[train_ind, ]
test <- animal_matrix[-train_ind, ]

Modèles de forêts aléatoires

Machine Learning with Tree-Based Models in R

Exemple de classification

library(randomForest)
rfc <- randomForest(x = as.data.frame(as.matrix(train)), 
                    y = animal_sentences$Name[train_ind], nTree = 50)
rfc

Call:
 randomForest(...
        OOB estimate of  error rate: 23.33%
Confusion matrix:
         boxer napoleon class.error
boxer       37       20   0.3508772
napoleon     8       55   0.1269841

La matrice de confusion

Call:
 randomForest(...
        OOB estimate of  error rate: 23.33%
Confusion matrix:
         boxer napoleon class.error
boxer       37       20   0.3508772
napoleon     8       55   0.1269841

Justesse : (37 + 55) / (37 + 20 + 8 + 55) = 76 %

Prédictions sur l'ensemble de test

y_pred <- predict(rfc, newdata = as.data.frame(as.matrix(test)))

table(animal_sentences[-train_ind, ]$Name, y_pred)

          y_pred
           boxer napoleon
  boxer       14        4
  napoleon     2       10

Justesse pour boxer : 14/18
Justesse pour napoleon : 10/12
Justesse globale : 24/30 = 80 %

Exercices de classification

Introduction au traitement automatique des langues en R