機械学習の限界

機械学習を理解する

Sara Billen

Curriculum Manager, DataCamp

データ品質

• Garbage in, garbage out（質の低いデータからは、質の低い結果しか得られない）
• 入力データの質が、出力の質を左右する

深刻な問題につながる仕組み

Amazonの性別バイアスを含む採用支援ツール

• 履歴書の審査を支援する採用支援ソフトウェア
• 過去の採用データでは男性の採用が多かったため、男性を優先するように学習した
• 次のような履歴書の評価を下げた
  • 「women」という単語を含むもの
  • 応募者が女性であることを示唆するもの

深刻な問題につながる仕組み

MicrosoftのAIチャットボット

注意

• モデルを盲信しない
• バイアスに注意する
• データをよく確認する

$$

モデルの性能は、学習データの質と偏りに左右されます。

データ品質の確保

• 質の高いデータを用意するには：
  • データ分析
  • 外れ値の確認
  • ドメイン知識
  • ドキュメント整備

説明可能性

説明可能性

• 信頼性・明確性・理解を高めるための透明性
• 活用例：企業での導入促進、規制当局による監督、バイアスの低減

説明可能な AI

ブラックボックス

• ディープラーニング
• 「何が起きるか」の予測に強い
• 高精度な予測

説明可能なAI

• 従来の機械学習
• 「なぜそうなるか」の説明に強い
• 人間が理解しやすい

例： 説明可能な AI

1. 予測: 患者は糖尿病を発症するでしょうか？
2. 推論: なぜ糖尿病を発症すると予測されるのでしょうか？

例： 説明不可能な AI

予測のみ： この手書き文字は何だと予測されるか？

練習しましょう！

機械学習を理解する