Entradas categóricas

Aprendizado Supervisionado em R: Regressão

Nina Zumel and John Mount

Win-Vector, LLC

Exemplo: efeito da dieta na perda de peso

WtLoss24 ~ Diet + Age + BMI
Diet Age BMI WtLoss24
Med 59 30.67 -6.7
Low-Carb 48 29.59 8.4
Low-Fat 52 32.9 6.3
Med 53 28.92 8.3
Low-Fat 47 30.20 6.3
Aprendizado Supervisionado em R: Regressão

model.matrix()

model.matrix(WtLoss24 ~ Diet + Age + BMI, data = diet)
  • Todos os valores numéricos
  • Converte variável categórica com N níveis em N - 1 variáveis indicadoras
Aprendizado Supervisionado em R: Regressão

Variáveis indicadoras para representar categorias

Dados originais

Diet Age ...
Med 59 ...
Low-Carb 48 ...
Low-Fat 52 ...
Med 53 ...
Low-Fat 47 ...

Matriz do modelo

(Int) DietLow-Fat DietMed ...
1 0 1 ...
1 0 0 ...
1 1 0 ...
1 0 1 ...
1 1 0 ...
  • nível de referência: "Low-Carb"
Aprendizado Supervisionado em R: Regressão

Interpretando as variáveis indicadoras

Modelo linear:

$$ WtLoss24 = \beta_{0} + \beta_{DietLow} x_{DietLow} + \beta_{DietMed} x_{DietMed} + \beta_{Age} x_{Age} + \beta_{BMI} x_{BMI} $$

lm(WtLoss24 ~ Diet + Age + BMI, data = diet))
Coeficientes:
      (Intercept)        DietLow-Fat     DietMed  
         -1.37149           -2.32130    -0.97883  
              Age                BMI  
          0.12648            0.01262
Aprendizado Supervisionado em R: Regressão

Problemas do one-hot encoding

  • Muitos níveis podem ser um problema
    • Exemplo: CEP (cerca de 40.000 códigos)
  • Não faça hashing com métodos geométricos!
Aprendizado Supervisionado em R: Regressão

Vamos praticar!

Aprendizado Supervisionado em R: Regressão

Preparing Video For Download...