評估並降低社會偏見

生成式 AI 概念

Daniel Tedesco

Data Lead, Google

我們所說的社會偏見是什麼？

$$ $$

生成式 AI 的系統性不公平

• 可能帶來嚴重社會後果
• 「公平」具有主觀性
• 著重於廣泛共享的價值

$$ $$

偏見出現在哪裡

• 訓練資料
• 模型本身
• 模型的使用方式

資料中的偏見

訓練資料集中偏斜或不具代表性的資訊

模型中的偏見

追求會導致偏見結果的目標

使用中的偏見

以錯誤或惡意方式應用 AI

辨識資料與模型中的偏見

• 再現分析比較模型如何稱呼不同群體
• 公平性指標評估跨群體的同等待遇、機會與準確度
• 人工稽核由真人檢閱模型輸出以找出偏見

降低資料與模型中的偏見

 

• 多元化資料蒐集
• 調整模型以重點考量不同資料
• 對抗式訓練
• 持續改進

一起來練習吧！

生成式 AI 概念