什麼是共變量偏移？

Machine Learning 監控概念

Hakim Elakhrass

Co-founder and CEO of NannyML

定義

  • covariate variables $=$ 輸入特徵
  • $P(X)$ 改變
  • 條件機率 $P(Y|X)$ 保持不變
  • 共變量的聯合分佈發生變化
Machine Learning 監控概念

為何看聯合機率分佈？

此圖顯示特徵一與特徵二的正、負相關：第 10 週（藍色）為正相關，第 16 週（紅色）為負相關。

Machine Learning 監控概念

為何會發生共變量偏移？

共變量偏移的可能原因：

  • 真實世界非定態——模式與趨勢會演變
  • 資料來源變動——測試與上線之間的蒐集方式不同
  • 系統與環境演進
Machine Learning 監控概念

共變量偏移如何發生？

分佈變化的型態：

  • 突然

 

  • 漸進

 

  • 週期

 

示意分佈的突然改變：起初為藍點，某時刻後迅速轉為紅點。

示意分佈的漸進改變：由藍點逐步轉為紅點，之後又回到藍點。

示意分佈的季節性改變：藍點與紅點在時間上交替循環出現。

Machine Learning 監控概念

如何偵測共變量偏移？

單變量方法

9 月到 3 月各月的產量分佈。9–12 月分佈相近、變化小（藍色），1–3 月分佈縮小且平均值下移（紅色），代表變化更顯著。

多變量方法

多變量漂移偵測流程：先將多維資料壓縮到潛在空間，再以一定誤差解壓回原始形式。

1 https://app.datacamp.com/learn/courses/dimensionality-reduction-in-python
Machine Learning 監控概念

一起來練習吧！

Machine Learning 監控概念

Preparing Video For Download...