Covariate shift क्या है?

Monitoring Machine Learning Concepts

Hakim Elakhrass

Co-founder and CEO of NannyML

परिभाषाएँ

covariate variables $=$ input features
$P(X)$ बदलता है
joint probability $P(Y|X)$ वही रहता है
covariates के joint distribution में बदलाव

Joint probability distribution क्यों?

एक ग्राफ फीचर 1 और फीचर 2 के बीच सकारात्मक और नकारात्मक सहसम्बंध दिखाता है. सप्ताह 10 पर नीला रंग सकारात्मक सहसम्बंध दर्शाता है, जबकि सप्ताह 16 पर लाल रंग नकारात्मक सहसम्बंध दिखाता है.

Covariate shift क्यों होता है?

Covariate shift के संभावित कारण:

वास्तविक दुनिया स्थिर नहीं है - पैटर्न और ट्रेंड बदलते रहते हैं
डेटा स्रोत बदलना - टेस्टिंग और प्रोडक्शन में कलेक्शन के तरीकों में फर्क
सिस्टम और परिवेश का विकास

Covariate shift कैसे होता है?

डिस्ट्रिब्यूशन बदलने की डाइनैमिक्स:

अचानक

क्रमिक

मौसमी

चित्र डेटा डिस्ट्रिब्यूशन में अचानक बदलाव दिखाता है. शुरू में नीले पॉइंट्स हैं, फिर कुछ समय बाद यह झटके से लाल पॉइंट्स में बदल जाता है.

चित्र डेटा डिस्ट्रिब्यूशन में क्रमिक बदलाव दिखाता है. शुरुआत में नीले पॉइंट्स हैं, समय के साथ वे धीरे-धीरे लाल होते हैं और फिर वापस नीले हो जाते हैं. पहले एक पॉइंट बदलता है, बाद में पूरी डिस्ट्रिब्यूशन लाल हो जाती है.

चित्र डेटा डिस्ट्रिब्यूशन में मौसमी बदलाव दिखाता है. शुरुआत में नीले पॉइंट्स हैं, कुछ समय बाद अचानक लाल हो जाते हैं, फिर दोबारा नीले. यह चक्र दोहरता है और डेटा की आवधिक प्रकृति दिखाता है.

Covariate shift को कैसे detect करें?

Univariate विधि

सितंबर से मार्च तक हर महीने के प्रोडक्शन वैल्यू का डिस्ट्रिब्यूशन. कुल सात डिस्ट्रिब्यूशन हैं. सितंबर-दिसंबर तक वे मिलते-जुलते हैं और बदलाव कम है, इसलिए नीले हैं. जनवरी-मार्च में डिस्ट्रिब्यूशन सिमटते हैं और मीन कम होता है, इसलिए लाल रंग दिखता है क्योंकि बदलाव अधिक है.

Multivariate विधि

एक मल्टीवेरिएट ड्रिफ्ट डिटेक्शन वर्कफ़्लो, जहाँ बहुआयामी डेटा पहले latent space में कंप्रेस होता है और फिर कुछ त्रुटि के साथ प्रारंभिक रूप में डीकंप्रेस होता है.

¹ https://app.datacamp.com/learn/courses/dimensionality-reduction-in-python

अभ्यास करते हैं!

Monitoring Machine Learning Concepts