आदर्श मॉनिटरिंग वर्कफ़्लो

Monitoring Machine Learning Concepts

Hakim Elakhrass

Co-founder and CEO of NannyML

मॉनिटरिंग वर्कफ़्लोज़

पारंपरिक मॉनिटरिंग वर्कफ़्लो

  • तकनीकी परफॉर्मेंस की गणना

  • इनपुट डेटा में ड्रिफ्ट पर अलर्ट

  • बहुत सारे फॉल्स अलर्ट्स

आदर्श मॉनिटरिंग वर्कफ़्लो

  • तकनीकी परफॉर्मेंस मॉनिटरिंग

    • परफॉर्मेंस की गणना और अनुमान
  • रूट कॉज़ एनालिसिस

    • ड्रिफ्ट को परफॉर्मेंस ड्रॉप से जोड़ने में मदद करता है

 

आदर्श मॉनिटरिंग वर्कफ़्लो: पहले परफॉर्मेंस मॉनिटरिंग, गिरावट होने पर रूट कॉज़ एनालिसिस, और अंत में समस्या का समाधान.

Monitoring Machine Learning Concepts

परफॉर्मेंस मॉनिटरिंग

शामिल हैं:

  • परफॉर्मेंस की गणना - जैसे accuracy जैसे तकनीकी मेट्रिक्स

 

  • परफॉर्मेंस का अनुमान - जब ग्राउंड ट्रुथ उपलब्ध न हो

 

  • बिज़नेस इम्पैक्ट मापना - की परफॉर्मेंस इंडिकेटर्स मॉनिटर करें

  समय के साथ accuracy का प्लॉट, जहाँ accuracy घटकर थ्रेशहोल्ड से नीचे चली जाती है.

समय के साथ KPIs का प्लॉट, जहाँ KPIs दिए गए थ्रेशहोल्ड्स के भीतर बने रहते हैं.

Monitoring Machine Learning Concepts

रूट कॉज़ एनालिसिस

लक्ष्य है जाँच करना:

 

  • Covariate shift - इनपुट डेटा डिस्ट्रीब्यूशन में बदलाव

 

  • Concept drift - फीचर्स और टार्गेट्स के संबंध में परिवर्तन

वर्किंग मॉडल में नीले और लाल सर्कल्स के बीच डिसीज़न बाउंड्री का प्लॉट.

प्लॉट दिखाता है कि नीले सर्कल्स डिसीज़न बाउंड्री पार कर रहे हैं, जो covariate shift दर्शाता है.

प्लॉट में डिसीज़न बाउंड्री बदलती दिखती है, जो concept drift दर्शाती है.

Monitoring Machine Learning Concepts

इश्यू रेज़ोल्यूशन

संभावित समाधान:

  • रिट्रेनिंग - अतिरिक्त डेटा और कम्प्यूट चाहिए

 

  • यूज़ केस का रिफैक्टरिंग - एक कदम पीछे जाकर तरीकों पर पुनर्विचार करें

 

  • डाउनस्ट्रीम प्रक्रियाएँ बदलना - प्रेडिक्शन के आसपास की प्रक्रियाएँ संशोधित करें

  इमेज में एक डिजिटल ब्रेन (मशीन लर्निंग मॉडल) और डेटाबेस के साथ प्लस साइन है, जो अधिक डेटा से मॉडल को रिट्रेन करने को दर्शाता है.

इमेज में ड्रॉइंग बोर्ड पर फीचर इंजीनियरिंग, उपयोग किए फीचर्स और लीनियर रिग्रेशन से जुड़े सवाल हैं.

इमेज में एक वर्कर कंप्यूटर पर मैन्युअली कुछ वेरिफ़ाई कर रहा है.

Monitoring Machine Learning Concepts

अभ्यास करते हैं!

Monitoring Machine Learning Concepts

Preparing Video For Download...