Що таке зсув коваріат?

Основи моніторингу Machine Learning

Hakim Elakhrass

Co-founder and CEO of NannyML

Визначення

коваріати $=$ вхідні ознаки
$P(X)$ змінюється
умовна ймовірність $P(Y|X)$ лишається тією самою
зміни у спільному розподілі коваріатів

Чому спільний розподіл?

Графік ілюструє як додатні, так і від'ємні кореляції між першою та другою ознаками. Додатна кореляція спостерігається на 10-му тижні (синій), а від'ємна — на 16-му тижні (червоний).

Чому виникає зсув коваріатів?

Можливі причини зсуву коваріатів:

Світ не стаціонарний — закономірності змінюються
Зміни джерел даних — різниться спосіб збору між тестом і продом
Еволюція системи та середовища

Як відбувається зсув коваріатів?

Динаміка змін розподілу:

Раптові

Поступові

Сезонні

Зображення візуалізує раптову зміну розподілу даних: сині точки різко змінюються на червоні після певного моменту часу.

Зображення ілюструє поступову зміну розподілу: сині точки з часом поступово змінюються на червоні, а згодом знову повертаються до синіх. Спершу змінюється один пункт, з часом — увесь розподіл.

Зображення ілюструє сезонні зміни розподілу: сині точки через певний час різко змінюються на червоні, а потім знову повертаються до синіх. Цикл повторюється, показуючи періодичність.

Як виявити зсув коваріатів?

Уніваріантний метод

Розподіл значень виробітку за кожен місяць із вересня по березень. Усього сім розподілів. Від вересня до грудня вони подібні з малими відхиленнями в межах норми, тому сині. З січня по березень розподіли звужуються, а середнє зсувається до менших значень — тому червоні.

Мультиваріантний метод

Робочий процес багатовимірного виявлення дрейфу: багатовимірні дані стискаються у латентний простір і розпаковуються назад з певною похибкою.

¹ https://app.datacamp.com/learn/courses/dimensionality-reduction-in-python

Давайте потренуємось!

Основи моніторингу Machine Learning