बूटस्ट्रैप एग्रीगेटिंग

Python में Ensemble Methods

Román de las Heras

Data Scientist, Appodeal

हेटेरोजीनियस बनाम होमोजीनियस एंसेंबल

हेटेरोजीनियस:

  • अलग-अलग एल्गोरिदम (फाइन-ट्यून किए हुए)
  • अनुमानक कम संख्या में
  • Voting, Averaging, और Stacking

होमोजीनियस:

  • वही एल्गोरिदम ("कमज़ोर" मॉडल)
  • अनुमानक बड़ी संख्या में
  • Bagging और Boosting
Python में Ensemble Methods

काँदोर्से का ज्यूरी प्रमेय

आवश्यकताएँ:

  • मॉडल एक-दूसरे से स्वतंत्र हों
  • हर मॉडल रैंडम गेसिंग से बेहतर हो
  • सभी व्यक्तिगत मॉडलों का प्रदर्शन मिलता-जुलता हो

निष्कर्ष: अधिक मॉडल जोड़ने से एंसेंबल का प्रदर्शन (Voting या Averaging) बेहतर होता है, और यह 1 (100%) के करीब पहुँचता है

काँदोर्से मारक्विस दे काँदोर्से, फ़्रांसीसी दार्शनिक और गणितज्ञ

Python में Ensemble Methods

बूटस्ट्रैपिंग

बूटस्ट्रैपिंग के लिए चाहिए:

  • रैंडम सबसेम्पल्स
  • रिप्लेसमेंट के साथ उपयोग

बूटस्ट्रैपिंग यह सुनिश्चित करती है:

  • विविध समूह: अलग-अलग डेटासेट्स
  • स्वतंत्र: अलग-अलग सैंपल किए हुए

Bagging.png

Python में Ensemble Methods

Bagging के फायदे और नुकसान

फायदे

  • Bagging आम तौर पर वैरिएंस घटाता है
  • ओवरफिटिंग एंसेंबल से ही टल सकती है
  • ज़्यादा स्थिरता और रोबस्टनेस

नुकसान

  • कम्प्यूटेशनल खर्च ज़्यादा है
Python में Ensemble Methods

अभ्यास करते हैं!

Python में Ensemble Methods

Preparing Video For Download...