Grid और Random Search की तुलना
Python में Hyperparameter Tuning
Alex Scriven
Data Scientist
क्या समान है?
Random और Grid Search में समानताएँ?
- दोनों में अलग-अलग hyperparameters को ट्यून करने के automated तरीके हैं
- दोनों में आप sample करने के लिए grid सेट करते हैं (कौन-से hyperparameters और उनके values)
अपना grid सोच-समझकर बनाएँ!
- दोनों में आप cross-validation scheme और scoring function सेट करते हैं
क्या अलग है?
Grid Search:
- sample space के भीतर सभी combinations को exhaustively ट्राई करता है
- कोई sampling methodology नहीं
- अधिक computationally expensive
- sample space में best score मिलने की गारंटी
Random Search:
- sample space के भीतर combinations का एक subset randomly चुनता है (जो आप specify करते हैं)
- sampling methodology चुन सकते हैं (default uniform के अलावा)
- कम computationally expensive
- sample space में best score मिलने की गारंटी नहीं (पर अक्सर अच्छा score तेज़ी से मिलता है)
किसे चुनें?
तो किसे उपयोग करें? किन बातों पर विचार करें?
- आपके पास कितना डेटा है?
- कितने hyperparameters और values आप ट्यून करना चाहते हैं?
- आपके पास कितने resources हैं? (समय, computing power)
- अधिक डेटा हो तो random search बेहतर विकल्प हो सकता है.
- ये अधिक हों तो random search बेहतर विकल्प हो सकता है.
- कम resources हों तो random search बेहतर विकल्प हो सकता है.
अभ्यास करते हैं!
Python में Hyperparameter Tuning
