회귀 분석에서의 주성분

R로 배우는 Machine Learning 기반 마케팅 분석

Verena Pflieger

Data Scientist at INWT Statistics

회귀 분석에서의 PC I

mod1 <- lm(customerSatis ~ ., dataCustomers)

library(car)
vif(mod1)

      nOrders       nItemsOrdered          nItemsSold        salesOrdered 
    29.482287           24.437448           10.390998            5.134720 
    salesSold         returnRatio       shareOwnBrand           shareSale 
     9.685617           23.778800            1.571607            1.178773 
 shareVoucher          crDuration monetaryReturnRatio  meanDaysBetwOrders 
     1.213011            1.757509           10.632243            1.698369 
salesPerOrder        salesPerItem       itemsPerOrder   itemsSoldPerOrder 
     6.563474            4.557981            4.821610           15.949072

# Create dataframe with customer satisfaction and first 6 components
dataCustComponents <- cbind(dataCustomers[, "customerSatis"], 
                            pcaCust$x[,1:6]) %>%
  as.data.frame
mod2 <- lm(customerSatis ~ ., dataCustComponents)
vif(mod2)

PC1 PC2 PC3 PC4 PC5 PC6 
  1   1   1   1   1   1

summary(mod1)$adj.r.squared

0.8678583

summary(mod2)$adj.r.squared

0.7123822

summary(mod2)

Call:
lm(formula = customerSatis ~ ., data = dataCustComponents)
Residuals:
    Min      1Q  Median      3Q     Max 
-3.9279 -0.2411  0.0179  0.2865  1.4972 
Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept)  2.985945   0.014039 212.682  < 2e-16 ***
PC1         -0.175434   0.006704 -26.167  < 2e-16 ***
PC2          0.296659   0.007643  38.815  < 2e-16 ***
PC3         -0.012816   0.010838  -1.182    0.237    
PC4         -0.116651   0.011665 -10.000  < 2e-16 ***
PC5          0.101963   0.012508   8.152 1.09e-15 ***
PC6          0.126677   0.013072   9.691  < 2e-16 ***
- - -
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.4415 on 982 degrees of freedom
Multiple R-squared:  0.7141,    Adjusted R-squared:  0.7124 
F-statistic: 408.9 on 6 and 982 DF,  p-value: < 2.2e-16

	PCA 학습 내용
학습한 내용...	정보 손실을 최소화하면서 변수 수를 줄이는 방법
	PCA 전에 변수를 표준화해야 한다는 점
	관련 주성분 수를 결정하는 방법
	선택한 주성분을 해석하는 방법

	모델에서의 학습 내용
학습한 내용...	원래 변수를 고객 활동, 반품 행동, 브랜드 인지도 등 6개 주성분으로 줄일 수 있다는 점
	첫 6개 주성분을 사용하면 설명 분산이 감소하지만 다중공선성 문제가 해결된다는 점

연습해 봅시다!

R로 배우는 Machine Learning 기반 마케팅 분석