什么是概念漂移?

机器学习监控概念

Hakim Elakhrass

Co-founder and CEO of NannyML

定义

  • 模型输入与目标之间关系的变化
  • $P(Y|X)$ 变化,$P(X)$ 不变

图示生产环境与训练环境中收入与年龄关系的变化。

机器学习监控概念

为何会发生漂移?

  • 外部事件
    • 热点、政策变更
  • 未建模的季节性
    • 如需求预测中的黑色星期五、圣诞节等
  • 数据生成过程变化

    • 数据采集应用更新
  • 用户行为演变

    • 习惯、模式、偏好不断变化
机器学习监控概念

概念漂移的动态

  • 突发型——短时间内出现新概念

 

  • 渐进型——新概念逐步取代旧概念

 

  • 循环型——旧概念周期性回归

图片显示"Covid-19"文字。

图片显示美元纸币。

图片显示黑色星期五五折促销海报。

机器学习监控概念

协变量偏移对概念漂移的影响

  • 负向
    • 协变量偏移减弱概念漂移影响

 

 

  • 正向
    • 协变量偏移加剧概念漂移影响

图示训练与生产阶段的协变量偏移:收入从 80k/年移至 100k/年。第二幅展示概念漂移:收入与预测违约关系变化,低收入者违约概率更高。

图示训练与生产的协变量偏移:收入从 80k/年移至 60k/年。第二幅展示概念漂移:收入与预测违约关系变化,低收入者违约概率更高。

机器学习监控概念

开始练习吧!

机器学习监控概念

Preparing Video For Download...