Çoklu lojistik regresyon

R'de Genelleştirilmiş Doğrusal Modeller

Richard Erickson

Instructor

Bölüm özeti

Çoklu lojistik regresyon
R'de formüller
Model varsayımları

Neden çoklu regresyon?

Sorun: Birden çok yordayıcı değişken. Hangisini eklemeliyim?

Çözüm: Hepsini çoklu regresyonla ekle.

Birden çok yordayıcı değişken

Basit doğrusal modeller veya basit GLM:
- 1 eğim ve 1 kesişim ile sınırlı
- $y\sim \beta_0 + \beta_1 x + \epsilon$
Çoklu regresyon
- Birden çok eğim ve kesişim:
- $y\sim \beta_0 + \beta_1 x_1 + \beta_2 x + \beta_3 x_3 \ldots + \epsilon$

İyinin fazlası zarar

Kuramsal en fazla katsayı sayısı:

Maksimum $\beta$ sayısı = Gözlem sayısı

Aşırı uyum (over-fitting):

Örnek sayısına göre çok fazla yordayıcı kullanmak

Uygulamadaki en fazla katsayı sayısı:

$\beta$ sayısı $\times10 \approx$ Gözlem sayısı

Otobüs verisi: İki olası yordayıcı

Otobüsle işe gidenler verisinde 2 olası yordayıcı
- Kaç gün gidip geldiği: CommuteDay
- Gidiş mesafesi: MilesOneWay
İkisiyle de model kurmak mümkün

glm(Bus ~ CommuteDay + MilesOneWay, data = bus,  family = 'binomial')

Birden çok yordayıcıyla GLM özeti

Call:
glm(formula = Bus ~ CommuteDays + MilesOneWay, family = "binomial", 
    data = bus)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-1.0732  -0.9035  -0.7816   1.3968   2.5066  

Coefficients:
             Estimate Std. Error z value Pr(>|z|)    
(Intercept) -0.707515   0.119719  -5.910 3.42e-09 ***
CommuteDays  0.066084   0.023181   2.851  0.00436 ** 
MilesOneWay -0.059571   0.003218 -18.512  < 2e-16 ***
#...

Yordayıcılar arası korelasyon

Örnek korelasyon grafiği

Katsayıların sırası

Yordayıcılar arasında korelasyon yoksa

Sıra önemli değil
$y\sim x_1 + x_2 +\epsilon \approx y\sim x_2 + x_1 +\epsilon$

Yordayıcılar arasında korelasyon varsa

Sıra tahminleri değiştirebilir
$y\sim x_1 + x_2 +\epsilon \neq y\sim x_2 + x_1 +\epsilon$

Hadi pratik yapalım!

R'de Genelleştirilmiş Doğrusal Modeller