Entradas categóricas

Aprendizaje supervisado en R: Regresión

Nina Zumel and John Mount

Win-Vector, LLC

Ejemplo: efecto de la dieta en la pérdida de peso

WtLoss24 ~ Diet + Age + BMI
Diet Age BMI WtLoss24
Med 59 30.67 -6.7
Low-Carb 48 29.59 8.4
Low-Fat 52 32.9 6.3
Med 53 28.92 8.3
Low-Fat 47 30.20 6.3
Aprendizaje supervisado en R: Regresión

model.matrix()

model.matrix(WtLoss24 ~ Diet + Age + BMI, data = diet)
  • Todos valores numéricos
  • Convierte una variable categórica con N niveles en N - 1 variables indicadoras
Aprendizaje supervisado en R: Regresión

Variables indicadoras para representar categorías

Datos originales

Diet Age ...
Med 59 ...
Low-Carb 48 ...
Low-Fat 52 ...
Med 53 ...
Low-Fat 47 ...

Matriz del modelo

(Int) DietLow-Fat DietMed ...
1 0 1 ...
1 0 0 ...
1 1 0 ...
1 0 1 ...
1 1 0 ...
  • nivel de referencia: «Low-Carb»
Aprendizaje supervisado en R: Regresión

Interpretar las variables indicadoras

Modelo lineal:

$$ WtLoss24 = \beta_{0} + \beta_{DietLow} x_{DietLow} + \beta_{DietMed} x_{DietMed} + \beta_{Age} x_{Age} + \beta_{BMI} x_{BMI} $$

lm(WtLoss24 ~ Diet + Age + BMI, data = diet))
Coeficientes:
      (Intercept)        DietLow-Fat     DietMed  
         -1.37149           -2.32130    -0.97883  
              Age                BMI  
          0.12648            0.01262
Aprendizaje supervisado en R: Regresión

Problemas con one-hot encoding

  • Demasiados niveles pueden ser un problema
    • Ejemplo: código ZIP (unos 40.000 códigos)
  • ¡No hagas hashing con métodos geométricos!
Aprendizaje supervisado en R: Regresión

¡Vamos a practicar!

Aprendizaje supervisado en R: Regresión

Preparing Video For Download...