責任あるAIの課題

責任あるAIデータマネジメント

Maria Prokofieva

Lead ML Engineer

実社会での責任あるデータ管理

 

• 複雑

 

• トレードオフが伴う

 

• 専門的判断が必要

よくあるトレードオフ

 

 

 

• 公平性・プライバシーより利益

• テスト・セキュリティより収益

事前学習モデル

• コスト削減

• 時間・リソース節約

• 収集・学習が不要

• 学習データにバイアスの恐れ

• 透明性が低い

事前学習モデルの活用

• モデル提供元のデューデリジェンス
• 良好な評判
• 信頼性
• モデル文書を確認
• 公平性・バイアスの追加テスト

 

 

• 公平性より正確性を優先
• バランスの取れたデータでも発生

正確性のトレードオフ

• 特定の集団で正確性が低下
• 代表性の低い集団の質・量を考慮しない
• プライバシーは正確性を下げる

ロバスト性のトレードオフ

 

• ロバスト性とバイアスの両立

• ロバスト性と公平性の両立

職業倫理と注意義務

• 倫理・行動規範

• 国・組織で指針は異なる

• 責任・無害・公平

• 利用者のプライバシーと機密保持
• 社会への正の影響
• 高い基準の維持
• 堅牢で安全なシステムの開発
• 包摂的で非差別

 

¹ https://www.acm.org/code-of-ethics

練習しましょう！

責任あるAIデータマネジメント