Категориальные входные данные
Обучение с учителем в R: регрессия
Nina Zumel and John Mount
Win-Vector, LLC
Пример: влияние диеты на снижение веса
WtLoss24 ~ Diet + Age + BMI
| Diet | Age | BMI | WtLoss24 |
|---|---|---|---|
| Med | 59 | 30.67 | -6.7 |
| Low-Carb | 48 | 29.59 | 8.4 |
| Low-Fat | 52 | 32.9 | 6.3 |
| Med | 53 | 28.92 | 8.3 |
| Low-Fat | 47 | 30.20 | 6.3 |
model.matrix()
model.matrix(WtLoss24 ~ Diet + Age + BMI, data = diet)
- Все значения числовые
- Преобразует категориальную переменную с N уровнями в N - 1 индикаторных переменных
Индикаторные переменные для представления категорий
Исходные данные
| Diet | Age | ... |
|---|---|---|
| Med | 59 | ... |
| Low-Carb | 48 | ... |
| Low-Fat | 52 | ... |
| Med | 53 | ... |
| Low-Fat | 47 | ... |
Матрица модели
| (Int) | DietLow-Fat | DietMed | ... |
|---|---|---|---|
| 1 | 0 | 1 | ... |
| 1 | 0 | 0 | ... |
| 1 | 1 | 0 | ... |
| 1 | 0 | 1 | ... |
| 1 | 1 | 0 | ... |
- базовый уровень: «Low-Carb»
Интерпретация индикаторных переменных
Линейная модель:
$$ WtLoss24 = \beta_{0} + \beta_{DietLow} x_{DietLow} + \beta_{DietMed} x_{DietMed} + \beta_{Age} x_{Age} + \beta_{BMI} x_{BMI} $$
lm(WtLoss24 ~ Diet + Age + BMI, data = diet))
Coefficients:
(Intercept) DietLow-Fat DietMed
-1.37149 -2.32130 -0.97883
Age BMI
0.12648 0.01262
Проблемы прямого кодирования (one-hot encoding)
- Слишком большое число уровней может создавать проблемы
- Пример: почтовый индекс (около 40 000 значений)
- Не используйте геометрические методы для хэширования!
Давайте потренируемся!
Обучение с учителем в R: регрессия
