演算法中的偏誤

制伏資料偏誤

Konstantinos Kattidis

Data Analytics Lead

AI 與資料偏誤

AI 的常見應用：

• 個人化推薦
• 路線導航

 

若演算法對特定族群（如性別或種族）產生偏誤，會怎麼樣？

演算法偏誤

當演算法產生系統性且可重複的錯誤，導致不公平結果，偏袒某一群體時，就會出現演算法偏誤

• 它包含在演算法開發與部署過程中可能出現的各種偏誤

訓練過程中的偏誤

• 演算法偏誤常源於資料蒐集的偏誤
• 若訓練資料不具代表性或有偏誤，演算法可能學到並延續這些偏誤
• 例如：人臉辨識演算法中，多元族群的代表性不足

特徵選擇中的偏誤

• 當基於某些標準選擇特定特徵納入模型，而這些標準可能導致不公平或歧視性結果時，就會發生特徵選擇偏誤
• 例如種族、性別或其他受保護屬性
• 又如：用於預測貸款核准的演算法，若假設收入是唯一相關因素

評估偏誤

• 在演算法的測試階段使用不具代表性的資料集，會導致評估偏誤
• 例如：
  • 電影推薦演算法
  • 只用單一類型來測試效能
  • 會忽略它對其他類型（如愛情或喜劇）可能表現不佳

自動化偏誤

人們過度依賴自動化系統的傾向

• 例如：
  • 使用醫療診斷系統來分析醫學影像，如 MRI
  • 若未審閱或確認結果就完全信任系統，會出現自動化偏誤
  • 可能導致錯誤診斷

一起來練習吧！

制伏資料偏誤