負責任資料的面向

負責任的 AI 資料管理

Maria Prokofieva

Lead ML Engineer

負責任的資料管理

• 倫理的資料管理
• 以技術指標評估模型
• 負責任的 AI

本課程將學到

• 介紹負責任 AI 的面向與指標
• 概念落實到真實世界
• 法規與許可概觀
• 資料治理與取得
• 驗證與偏誤緩解

合法性

• 遵循法律與法規
• 確保資料被正確蒐集、處理與使用
• 常見的法律與法規包含：
  • 資料保護法
  • 人權相關法律
  • 對利害關係人的倫理規範
  • 依主管機關或國家而異

務必確認適用者！

公平性

• 演算法與資料作法不應造成不平等
• 一視同仁，避免歧視

透明與問責

• 資料如何被使用
• 模型如何被開發
• 決策如何被做出
• 解釋 AI
• 建立利害關係人信任

多元與共融

• 資料多樣性
• 多元觀點與經驗
• 偏誤緩解的關鍵

隱私與安全

• 保護個人與敏感資料
• 尊重並保障個人權利
• 防止未授權存取資料與模型

Amazon 的 AI 招募工具

• Amazon：2015-2017
• 人才招募自動化
• 用 AI 評分求職者
• 引發爭議，最終終止計畫

¹ Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/

AI 模型的挑戰

出了什麼問題？

• 非性別中立
• 訓練資料失衡
• 僅用技術指標評估 AI

一起來練習吧！

負責任的 AI 資料管理