什麼是概念漂移？

Machine Learning 監控概念

Hakim Elakhrass

Co-founder and CEO of NannyML

定義

  • 模型輸入與目標之間的關係改變
  • $P(Y|X)$ 改變，$P(X)$ 不變

圖片說明：生產環境相較於訓練環境，收入與年齡之間關係發生變化。

Machine Learning 監控概念

為何會發生漂移？

  • 外部事件
    • 病毒式流行、政策變動
  • 未建模的季節性
    • 例如需求預測中的 Black Friday 或聖誕節

  • 資料產生流程改變

    • 資料蒐集 App 的新版本

  • 使用者行為演變

    • 習慣、模式、偏好持續變動
Machine Learning 監控概念

概念漂移的型態

  • 突發型漂移：短時間內出現新概念

 

  • 漸進型漂移：新概念逐步取代舊概念

 

  • 反覆出現：舊概念週期性回歸

圖片顯示 Covid-19 文字。

圖片顯示美鈔。

圖片顯示 Black Friday 期間 50% 折扣的海報。

Machine Learning 監控概念

協變數偏移對概念漂移的影響

  • 負向
    • 協變數偏移會減弱概念漂移的效應

 

 

  • 正向
    • 協變數偏移會加劇概念漂移的效應

圖片示意：訓練與生產之間發生協變數偏移。收入特徵由 80k/year 移到 100k/year。第二張圖顯示概念漂移：收入與預測違約之關係改變，低收入申貸者的違約機率更高。

圖片示意：訓練與生產之間發生協變數偏移。收入特徵由 80k/year 移到 60k/year。第二張圖顯示概念漂移：收入與預測違約之關係改變，低收入申貸者的違約機率更高。

Machine Learning 監控概念

一起來練習吧！

Machine Learning 監控概念

Preparing Video For Download...