Rastgele ormanlar

R'de Supervised Learning: Regresyon

Nina Zumel and John Mount

Win-Vector, LCC

Rastgele Ormanlar

Birden çok çeşitli karar ağacının ortalaması

  • Aşırı uyumu azaltır
  • Model ifade gücünü artırır
  • Daha ince taneli tahminler
R'de Supervised Learning: Regresyon

Rastgele Orman Modeli Kurma

  1. Eğitim verisinden bootstrapped örnek çek
  2. Her örnek için bir ağaç büyüt
    • Her düğümde, tüm değişkenlerin rastgele bir alt kümesinden en iyi bölünecek değişkeni seç
    • Ağaç tamamlanana kadar devam et
  3. Bir veriyi puanlamak için, tüm ağaçlarda değerlendir ve sonuçların ortalamasını al.
R'de Supervised Learning: Regresyon

Örnek: Bisiklet Kiralama Verisi

cnt ~ hr + holiday + workingday + 
  weathersit + temp + atemp + hum + windspeed

R'de Supervised Learning: Regresyon

ranger() ile Rastgele Ormanlar

model <- ranger(fmla, bikesJan, 
                num.trees = 500, 
                respect.unordered.factors = "order")
  • formula, data
  • num.trees (varsayılan 500) - en az 200 kullan
  • mtry - her düğümde denenecek değişken sayısı
    • varsayılan: toplam değişken sayısının karekökü
  • respect.unordered.factors - "order" olarak ayarlanması önerilir
    • kategorik değişkenlerin "güvenli" hash'lenmesi
R'de Supervised Learning: Regresyon

ranger() ile Rastgele Ormanlar

model
Ranger result
...
OOB prediction error (MSE):       3103.623 
R squared (OOB):                  0.7837386

Rastgele orman algoritması, örnek dışı performansın tahminlerini döndürür.

R'de Supervised Learning: Regresyon

ranger() modeliyle tahmin

bikesFeb$pred <- predict(model, bikesFeb)$predictions

predict() girdileri:

  • model
  • data

Tahminlere predictions öğesinden erişebilirsin.

R'de Supervised Learning: Regresyon

Modeli değerlendirme

RMSE'yi hesapla:

bikesFeb %>% 
  mutate(residual = cnt - pred) %>%
  summarize(rmse = sqrt(mean(residual^2)))
      rmse
1 67.15169
Model RMSE
Quasipoisson 69.3
Random forests 67.15
R'de Supervised Learning: Regresyon

Modeli değerlendirme

R'de Supervised Learning: Regresyon

Modeli değerlendirme

R'de Supervised Learning: Regresyon

Hadi pratik yapalım!

R'de Supervised Learning: Regresyon

Preparing Video For Download...