異常偵測

Data Quality 入門

Chrissy Bloom

Head of Enterprise Data Strategy & Governance

定義異常偵測

異常偵測:使用機器學習演算法從歷史資料學習資料集,並找出潛在的資料品質問題

放大鏡與時鐘,表示長期監控,箭頭指向偵測到可能異常的資料表

Data Quality 入門

異常偵測的優點

優點:

  • 可大規模監控資料,而非只看關鍵元素
  • 設定所需的商務知識少,因為演算法會學習錯誤樣態
  • 能偵測資料漂移與不明顯的洞見

顯示多種資料來源的圖,象徵可在規模上確保資料品質

Data Quality 入門

何時使用異常偵測

  1. 當可用資料量很大時
  2. 當大量資料需要品質監控時
    • 幾乎不需手動作業
    • 建立大規模監控
    • 自動找出資料異常

三列文字,說明偵錯式、預防式與異常偵測的使用情境

Data Quality 入門

異常偵測範例

兩個資料表,最後一列偵測到可能的異常

Data Quality 入門

一起來練習吧!

Data Quality 入門

Preparing Video For Download...