मेटाडेटा स्टोर

फ़ुली ऑटोमेटेड MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps में मेटाडेटा क्या है?

मेटाडेटा वे सूचनाएँ हैं जो आर्टिफैक्ट्स के बारे में होती हैं
- जो ML पाइपलाइन के अलग-अलग कंपोनेंट्स के चलने पर बनती हैं

एक मशीन लर्निंग पाइपलाइन दिखाई गई है। चरण: डेटा एक्सट्रैक्शन, डेटा वैलिडेशन, मॉडल ट्रेनिंग, मॉडल इवैल्यूएशन, और मॉडल वैलिडेशन.

मेटाडेटा के उदाहरण:

डेटा वर्ज़निंग: एक ही डेटा के अलग वर्ज़न सुरक्षित रखे जाते हैं
ट्रेनिंग आर्टिफैक्ट्स जैसे हाइपरपैरामीटर्स का मेटाडेटा
पाइपलाइन एक्ज़िक्यूशन लॉग्स

¹ https://datacentricai.org/

ML में मेटाडेटा के अहम पहलू

डेटा लिनीएज
रिप्रोड्यूसिबिलिटी
मॉनिटरिंग
रेगुलेटरी

मेटाडेटा का महत्व - डेटा लिनीएज

डेटा लिनीएज मेटाडेटा, डेटा के बारे में ट्रैक करता है:
- इसकी उत्पत्ति से
- उसके उपभोग के बिंदुओं तक

डेटा लिनीएज की अवधारणा का चित्रण। यह दिखाता है कि मूल से खपत तक डेटा कई प्रक्रियाओं से कैसे बदल सकता है.

मेटाडेटा का महत्व - रिप्रोड्यूसिबिलिटी

हमारे मशीन लर्निंग प्रयोगों का मेटाडेटा:
- दूसरों को हमारे नतीजे दोहराने देता है
- हमारे ML सिस्टम पर भरोसा बढ़ाता है
- ML प्रक्रिया में वैज्ञानिक कठोरता लाता है

रिप्रोड्यूसिबिलिटी की अवधारणा दर्शाने वाला चित्र। कई वैज्ञानिक दूरबीन से एक-दूसरे के काम को दोहराने की कोशिश करते दिखते हैं.

मेटाडेटा का महत्व - मॉनिटरिंग

यह मशीन लर्निंग इंजीनियर्स को सक्षम बनाता है:
- MLOps पाइपलाइन के अलग हिस्सों के एक्ज़िक्यूशन को फॉलो करने के लिए
- किसी भी समय ML सिस्टम की स्थिति जाँचने के लिए

मॉनिटरिंग टूल का उदाहरण

एक मॉनिटरिंग डैशबोर्ड का उदाहरण, जो चल रहे MLOps सिस्टम से जुड़ी विभिन्न मेट्रिक्स दिखाता है.

¹ https://cloud.google.com/stackdriver/docs/solutions/gke/observing

मेटाडेटा स्टोर

एक केंद्रीय स्थान जहाँ MLOps का सारा मेटाडेटा मैनेज होता है:
- प्रयोग (लॉग्स)
- आर्टिफैक्ट्स
- मॉडल्स
- पाइपलाइन्स
इसमें ऐसा यूज़र इंटरफेस होता है जो हमें यह करने देता है:
- मॉडल-संबंधित सारा मेटाडेटा पढ़ना और लिखना

मेटाडेटा स्टोर का चित्रण। यह दिखाता है कि कई एक्टर्स और प्रक्रियाएँ एक केंद्रीकृत स्टोर में मेटाडेटा एक्सेस करती हैं.

¹ https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning

MLOps आर्किटेक्चर में मेटाडेटा स्टोर

पूरी तरह ऑटोमेटेड MLOps आर्किटेक्चर का चित्र। यह MLOps प्रक्रिया में मेटाडेटा स्टोर की केंद्रीय भूमिका दिखाता है.

पूरी तरह ऑटोमेटेड MLOps में मेटाडेटा स्टोर

यह पूरी तरह ऑटोमेटेड MLOps पाइपलाइन के कामकाज की ऑटोमैटिक मॉनिटरिंग सक्षम करता है

ऑटोमैटिक इन्सिडेंट रिस्पॉन्स को सरल बनाता है। जैसे,
- ऑटोमैटिक मॉडल री-ट्रेनिंग
- ऑटोमैटिक रोलबैक्स

ड्रिफ्ट से ट्रिगर हुई मॉडल री-ट्रेनिंग दिखाने वाला प्लॉट। x-अक्ष समय है और y-अक्ष परफॉर्मेंस। तीन कर्व्स हैं, हर कर्व में ड्रिफ्ट के कारण गिरावट है; घेरा लगा बिंदु "drift detected" है, जहाँ नए मॉडल की नई परफॉर्मेंस कर्व शुरू होती है.

अभ्यास करते हैं!

फ़ुली ऑटोमेटेड MLOps