負責任 AI 的挑戰

負責任的 AI 資料管理

Maria Prokofieva

Lead ML Engineer

真實世界中的負責任資料管理實務

 

• 複雜性高

 

• 牽涉取捨

 

• 需專業判斷

常見取捨

 

 

 

• 以獲利優先於公平與隱私

• 以營收優先於測試與安全

預先訓練模型

• 降低成本

• 節省時間與資源

• 無需自行蒐集資料與訓練

• 可能含有偏誤的訓練資料

• 透明度不足

使用預先訓練模型

• 審慎查核模型來源
• 良好聲譽
• 可信度高
• 檢閱模型文件
• 追加公平性與偏誤測試

 

 

• 準確度優先於公平性
• 即使資料集已平衡

準確度的取捨

• 特定族群準確度較低
• 未考量弱勢族群的資料品質或數量
• 隱私保護會降低準確度

穩健性的取捨

 

• 穩健性與偏誤的取捨

• 穩健性與公平性的取捨

專業操守與注意義務

• 倫理與行為準則

• 各國與各組織指引不同

• 責任、不傷害、公平

• 使用者隱私與保密
• 造福社會
• 維持高標準
• 建置穩健且安全的系統
• 包容且不歧視

 

¹ https://www.acm.org/code-of-ethics

一起來練習吧！

負責任的 AI 資料管理