我們如何面對資料偏誤？

資料倫理學入門

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

什麼是偏誤？

偏頗判斷的示意圖。

  • 資料倫理的第一個念頭
  • 對人、群體或想法的偏見——不公平
  • 資料倫理：資料偏誤
  • 低估、誇大、或錯置的代表性
  • 以偏誤資料決策會帶來傷害
1 Icon made by noomtah from www.flaticon.com
資料倫理學入門

無時無刻，無所不在

  • 出現在資料與生命週期各階段
  • 資料蒐集
  • 資料清理、準備、開發
  • 資料標註

資料生命週期不同階段的偏誤匯入偏誤演算法的示意圖

資料倫理學入門

資料特有的偏誤

  • 技術或統計流程偏誤

    • 抽樣偏誤：代表性
    • 測量偏誤
    • 自陳偏誤
    • 標註偏誤

  • 人為與系統性偏誤

    • 性別
    • 族裔／少數群體
    • 文化

物體失真與其真實影像的示意圖。

1 Icon made by Flowicon from www.flaticon.com
資料倫理學入門

代表性至關重要

Joy 的 TED Talk 螢幕截圖，她戴著白色面具的照片

  • 缺乏具代表性的資料
  • 臉部辨識：戴白色面具效果更好
  • 從洗手乳感應器到醫療成效
  • 推薦：Coded Bias（紀錄片）
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
資料倫理學入門

刻板印象的鏡子

心肌梗塞的不同症狀示意：男性胸悶、女性背痛。

  • 醫學研究與資料歷來多以白人男性為主
  • 例如：心肌梗塞症狀在男女間不同
  • 若用這些資料開發診斷 App，會怎樣？
1 https://womeningh.org/
資料倫理學入門

影響深遠

醫療 App 對男女心肌梗塞症狀的診斷截圖。

  • 心肌梗塞症狀：對男性判斷為急症，對女性判為恐慌發作
資料倫理學入門

多到數不清，還在增加！

各種認知偏誤的示意圖。

1 CC BY, John Manoogian III (JM3)
資料倫理學入門

冰山一角

浮出水面的冰山一角顯示統計偏誤，水面下是人為與系統性偏誤

  • 統計偏誤只是冰山一角
  • 人為與系統性偏誤：態度與社會變遷
  • 偏誤檢測、預防與緩解，並開放回饋
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
資料倫理學入門

一起來練習吧！

資料倫理學入門

Preparing Video For Download...