Variabile categoriale de intrare

Învățare supervizată în R: Regresia

Nina Zumel and John Mount

Win-Vector, LLC

Exemplu: Efectul dietei asupra pierderii în greutate

WtLoss24 ~ Diet + Age + BMI
Diet Age BMI WtLoss24
Med 59 30.67 -6.7
Low-Carb 48 29.59 8.4
Low-Fat 52 32.9 6.3
Med 53 28.92 8.3
Low-Fat 47 30.20 6.3
Învățare supervizată în R: Regresia

model.matrix()

model.matrix(WtLoss24 ~ Diet + Age + BMI, data = diet)
  • Toate valorile sunt numerice
  • Convertește o variabilă categorială cu N niveluri în N - 1 variabile indicator
Învățare supervizată în R: Regresia

Variabile indicator pentru reprezentarea categoriilor

Date originale

Diet Age ...
Med 59 ...
Low-Carb 48 ...
Low-Fat 52 ...
Med 53 ...
Low-Fat 47 ...

Matricea modelului

(Int) DietLow-Fat DietMed ...
1 0 1 ...
1 0 0 ...
1 1 0 ...
1 0 1 ...
1 1 0 ...
  • nivel de referință: "Low-Carb"
Învățare supervizată în R: Regresia

Interpretarea variabilelor indicator

Model liniar:

$$ WtLoss24 = \beta_{0} + \beta_{DietLow} x_{DietLow} + \beta_{DietMed} x_{DietMed} + \beta_{Age} x_{Age} + \beta_{BMI} x_{BMI} $$

lm(WtLoss24 ~ Diet + Age + BMI, data = diet))
Coefficients:
      (Intercept)        DietLow-Fat     DietMed  
         -1.37149           -2.32130    -0.97883  
              Age                BMI  
          0.12648            0.01262
Învățare supervizată în R: Regresia

Probleme cu codificarea one-hot

  • Prea multe niveluri pot fi o problemă
    • Exemplu: cod poștal (cca. 40.000 de coduri)
  • Nu folosiți metode geometrice de codare hash!
Învățare supervizată în R: Regresia

Să exersăm!

Învățare supervizată în R: Regresia

Preparing Video For Download...