ऑटोमेटेड हाइपरपैरामीटर ट्यूनिंग

फ़ुली ऑटोमेटेड MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

हाइपरपैरामीटर क्या है?

हाइपरपैरामीटर वे ट्यून किए जाने वाले मान हैं जो लर्निंग प्रक्रिया को नियंत्रित करते हैं

ट्रेनिंग के दौरान नहीं सीखे जाते
ML मॉडल ट्रेन करने से पहले सेट किए जाते हैं

उदाहरण:

न्यूरल नेटवर्क में मॉडल आर्किटेक्चर
डिसीजन ट्री में शाखाओं की संख्या
लर्निंग रेट

हाइपरपैरामीटर ट्यूनिंग क्या है?

इमेज: एक डेटा वैज्ञानिक न्यूरल नेटवर्क में हाइपरपैरामीटर समायोजित कर रहा/रही है। ट्रेनिंग रूटीन ट्रेनिंग समय पर सीखे जाने वाले पैरामीटर ट्यून करता है। इन संयोजनों से अलग-अलग स्कोर मिलते हैं।

हाइपरपैरामीटर ट्यूनिंग विधियाँ

ग्रिड सर्च

रैंडम सर्च

बेयesian ऑप्टिमाइज़ेशन

ग्रिड सर्च एनीमेशन जो क्रमबद्ध खोज दिखाता है.

रैंडम सर्च एनीमेशन जो आकस्मिक खोज दिखाता है.

बेयesian सर्च ऑप्टिमाइज़ेशन जो बुद्धिमान खोज दिखाता है.

हाइपरपैरामीटर ट्यूनिंग को ऑटोमेट करें

इमेज: एक मोटर हाइपरपैरामीटर संयोजनों की खोज कर रही है.

ऑटोमेटेड हाइपरपैरामीटर ट्यूनिंग के चरण

आपको तय करना है:
- किन हाइपरपैरामीटर को ऑप्टिमाइज़ करना है
- हर पैरामीटर का सर्च स्पेस
- किस परफॉर्मेंस मेट्रिक को ऑप्टिमाइज़ करना है
- स्टॉपिंग क्राइटेरिया

एक इमेज जो प्रक्रिया दिखाती है: ऑप्टिमाइज़ करने के लिए हाइपरपैरामीटर तय करें, हर हाइपरपैरामीटर का सर्च स्पेस तय करें, लक्ष्य मेट्रिक तय करें, स्टॉपिंग क्राइटेरिया तय करें। नीचे पूरी प्रक्रिया एक हाइपरपैरामीटर ट्यूनिंग विधि से संचालित है।

सर्वश्रेष्ठ हाइपरपैरामीटर सेट स्वत: ढूँढना

पिछली प्रक्रिया की इमेज का विस्तार। सबसे नीचे सर्वश्रेष्ठ हाइपरपैरामीटर सेट मिल जाता है।

हाइपरपैरामीटर और एन्वायरनमेंट सिमेट्री

एक इमेज जो एन्वायरनमेंट सिमेट्री दिखाती है। वही ट्यून किए गए हाइपरपैरामीटर डेवलपमेंट/एक्सपेरिमेंटेशन और प्रोडक्शन में उपयोग होते हैं।

हाइपरपैरामीटर ट्यूनिंग - एक्सपेरिमेंट ट्रैकिंग

ऑटोमेटेड हाइपरपैरामीटर ट्यूनिंग प्रक्रिया की इमेज। प्रक्रिया के शीर्ष पर, ऑटोमेटेड एक्सपेरिमेंट ट्रैकिंग सिस्टम ट्यूनिंग के दौरान उपयोग हुए हाइपरपैरामीटर जैसी मेटाडेटा इकट्ठा करता है। यह मेटाडेटा स्टोर में सेव होता है।

उदाहरण - हाइपरपैरामीटर विज़ुअलाइज़ेशन

हाइपरपैरामीटर ट्यूनिंग विज़ुअलाइज़ेशन टूल का एक उदाहरण.

अभ्यास करते हैं!

फ़ुली ऑटोमेटेड MLOps