Kubernetes पर MLOps

Kubernetes परिचय

Frank Heilmann

Platform Architect and Freelance Instructor

MLOps क्या है?

प्रोडक्शन में मशीन लर्निंग मॉडल डिप्लॉय और मेंटेन करने का एक पैरेडाइम
ऐसे मॉडलों के निरंतर विकास पर केंद्रित बेस्ट-प्रैक्टिस वर्कफ़्लो का सेट
DevOps से प्रेरित:
- मशीन लर्निंग मॉडल आइसोलेटेड एक्सपेरिमेंटल सिस्टम में विकसित/टेस्ट होते हैं, फिर प्रोडक्शन में डिप्लॉय किए जाते हैं
- प्रोडक्शन में निरंतर मॉनिटरिंग; री-ट्रेनिंग ट्रिगर हो सकती है
डेटा साइंटिस्ट, डेटा इंजीनियर, और IT टीमें डिप्लॉय किए गए मॉडलों पर समन्वित रूप से काम कर सकते हैं और मॉडल की एक्यूरेसी सुनिश्चित कर सकते हैं

MLOps पैरेडाइम Kubernetes से बहुत अच्छी तरह मेल खाता है:
- आइसोलेटेड एक्सपेरिमेंटल सिस्टम: Pods और Kubernetes Storage से संभव
- प्रोडक्शन ML मॉडल का मॉनिटरिंग: Pods के लाइफ़साइकल (और डिप्लॉय की गई इमेज वर्ज़न) के ज़रिए सक्षम
- मॉडल एक्यूरेसी पर समकालिक काम: शुरुआत से ही Kubernetes आर्किटेक्चर में निहित
MLOps के कई फ़्रेमवर्क हैं; दो सबसे प्रसिद्ध ओपन-सोर्स समाधान हैं
- mlflow
- Kubeflow

Kubeflow Overview

Kubeflow खास तौर पर Kubernetes पर ML वर्कफ़्लो के आसान डिप्लॉयमेंट सक्षम करता है
ML मॉडल के लाइफ़साइकल के हर चरण को कवर करता है
कई कॉम्पोनेंट से बना है, जो स्वतंत्र रूप से काम करके ये चरण कवर करते हैं
Python से API के ज़रिए ML मॉडल डेवलप और डिप्लॉय कर सकते हैं
- kubectl इस्तेमाल करने की ज़रूरत नहीं

Kubernetes परिचय