偏誤緩解

負責任的 AI 資料管理

Maria Prokofieva

Lead ML engineer

本章包含

• 專案生命週期中的策略
• 重新取樣與重新加權
• 重新標記與移除敏感屬性
• 對抗式訓練與模型再校準
• 使用者行為
• 公平性約束與演算法選擇
• 其他策略

重溫偏誤

• 系統性錯誤或偏見
• 對群體或個人的不公平結果

¹ Image by Streamline HQ

專案各階段的偏誤

• 原始資料中的偏誤
• 前處理中的偏誤
• 建模中的偏誤
• 部署後的偏誤

前處理中的偏誤

• 重新取樣
• 重新加權
• 重新標記
• 移除敏感屬性

前處理策略

• 重新取樣：
  • 調整分佈以平衡類別呈現
• 重新加權：
  • 以類別權重校正偏誤，資料集大小不變
• 重新標記：
  • 更新標籤以更準確反映目標
• 移除敏感屬性：
  • 移除受保護屬性

建模中的偏誤

• 來自演算法的偏誤
• 對抗式訓練
• 公平性約束
• 選用較簡單、穩健、可泛化的模型

理財顧問

• 與區域經濟差異相關的偏誤
• 以對抗式訓練修正偏誤
• 決策樹與正規化線性模型

¹ Image by Streamline HQ

部署後與使用中的偏誤

• 監測偏誤以避免模型漂移
• 模型再校準
• 應用的不當使用

¹ Image by Streamline HQ

理財顧問

模型漂移：

• 自由接案經濟被低度代表

錯誤使用：

• 更新財務資訊

¹ Image by Streamline HQ

一起來練習吧！

負責任的 AI 資料管理