Random forest

Machine Learning com modelos baseados em árvores em R

Sandro Raabe

Data Scientist

Random forest

  • Ideal para dados de alta dimensão
  • Fácil de usar
  • Bom desempenho imediato
  • Implementado em vários pacotes: ranger, randomForest
  • Interface tidymodels para esses pacotes: rand_forest() (no pacote parsnip)
Machine Learning com modelos baseados em árvores em R

Ideia

  • Ideia básica (igual ao bagging): treinar árvores em amostras bootstrap
  • Diferença-chave: preditores aleatórios entre árvores $\rightarrow$ random forest
Machine Learning com modelos baseados em árvores em R

Intuição

esboço de random forest

Machine Learning com modelos baseados em árvores em R

Codando: especificar um modelo de random forest

  • Nome da função: rand_forest()

Hiperparâmetros:

  • mtry: preditores vistos em cada nó, padrão:
    $$\left\lfloor\sqrt\text{num predictors}\right\rfloor$$
  • trees: número de árvores na floresta
  • min_n: menor tamanho de nó permitido
rand_forest(

mtry = 4,
trees = 500,
min_n = 10) %>%
# Definir o modo set_mode("classification") %>%
# Usar engine ranger ou randomForest set_engine("ranger")
Machine Learning com modelos baseados em árvores em R

Codando: especificar um modelo de random forest

spec <- rand_forest(trees = 100) %>%

set_mode("classification") %>%
set_engine("ranger")
Especificação do modelo Random Forest

(classification)
Argumentos principais: trees = 100
Engine computacional: ranger
Machine Learning com modelos baseados em árvores em R

Treinando uma floresta

spec %>% fit(still_customer ~ ., data = customers_train)
objeto de modelo parsnip

Tempo de ajuste:  631ms 
Resultado do Ranger

Número de árvores:                100 
Tamanho da amostra:               9116 
Número de variáveis independentes: 19 
Mtry:                             4 
Tamanho alvo do nó:               10
Machine Learning com modelos baseados em árvores em R

Importância das variáveis

rand_forest(mode = "classification") %>%
    set_engine("ranger", importance = "impurity") %>%

fit(still_customer ~ ., data = customers_train) %>%
vip::vip()

gráfico de importância (vip)

Machine Learning com modelos baseados em árvores em R

Vamos plantar uma random forest!

Machine Learning com modelos baseados em árvores em R

Preparing Video For Download...