रैंडम फॉरेस्ट्स

R में Supervised Learning: Regression

Nina Zumel and John Mount

Win-Vector, LCC

रैंडम फॉरेस्ट्स

कई विविध डिसीजन ट्री का औसत

  • ओवरफिट घटाता है
  • मॉडल की अभिव्यक्तिकता बढ़ाता है
  • और सूक्ष्म भविष्यवाणियाँ
R में Supervised Learning: Regression

रैंडम फॉरेस्ट मॉडल बनाना

  1. ट्रेनिंग डेटा से बूटस्ट्रैप्ड सैंपल लें
  2. हर सैंपल पर एक ट्री उगाएँ
    • हर नोड पर, सभी वैरिएबल्स के रैंडम सबसेट में से स्प्लिट के लिए सर्वश्रेष्ठ वैरिएबल चुनें
    • ट्री पूरा होने तक जारी रखें
  3. स्कोर करने के लिए, डेटम को सभी ट्री से पास करें और औसत लें.
R में Supervised Learning: Regression

उदाहरण: बाइक रेंटल डेटा

cnt ~ hr + holiday + workingday + 
  weathersit + temp + atemp + hum + windspeed

R में Supervised Learning: Regression

ranger() के साथ रैंडम फॉरेस्ट्स

model <- ranger(fmla, bikesJan, 
                num.trees = 500, 
                respect.unordered.factors = "order")
  • formula, data
  • num.trees (डिफॉल्ट 500) - कम से कम 200 रखें
  • mtry - हर नोड पर ट्राई करने वाले वैरिएबल्स की संख्या
    • डिफॉल्ट: कुल वैरिएबल्स की स्क्वायर रूट
  • respect.unordered.factors - "order" पर सेट करने की सलाह
    • केटेगोरिकल वैरिएबल्स का "safe" हैशिंग
R में Supervised Learning: Regression

ranger() के साथ रैंडम फॉरेस्ट्स

model
Ranger result
...
OOB prediction error (MSE):       3103.623 
R squared (OOB):                  0.7837386

रैंडम फॉरेस्ट एल्गोरिदम आउट-ऑफ-सैंपल परफॉर्मेंस के अनुमान लौटाता है.

R में Supervised Learning: Regression

ranger() मॉडल से प्रेडिक्ट करना

bikesFeb$pred <- predict(model, bikesFeb)$predictions

predict() के इनपुट:

  • model
  • data

भविष्यवाणियाँ predictions एलिमेंट में मिलती हैं.

R में Supervised Learning: Regression

मॉडल का आकलन

RMSE निकालें:

bikesFeb %>% 
  mutate(residual = cnt - pred) %>%
  summarize(rmse = sqrt(mean(residual^2)))
      rmse
1 67.15169
Model RMSE
Quasipoisson 69.3
Random forests 67.15
R में Supervised Learning: Regression

मॉडल का आकलन

R में Supervised Learning: Regression

मॉडल का आकलन

R में Supervised Learning: Regression

अभ्यास करते हैं!

R में Supervised Learning: Regression

Preparing Video For Download...