説明可能な AI

AI の倫理

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

説明可能な AI とは？

• 人間が内部の仕組みを理解できる AI システム
• 目標： AI の意思決定を明確に、理解しやすく、説明可能にする
• AI がなぜ、どのように、意思決定を行うのか理解するのを助ける
• 倫理的な AI の利用に向けた大きな一歩

¹ アイコン作成：vectorsmarket15 (www.flaticon.com)

中核を成す柱

• 透明性、公平性、説明責任
• AI の出力結果は、人間にとって理解しやすく論理的であるべき

• 説明可能性を中核に据えたモデル
• 決定木や線形回帰のような解釈可能なモデルを使用
• 性能は低下しても、プロセスを見える化できるのが強み

¹ アイコン作成： juicy_fish & Becris (www.flaticon.com)

仕組みを知ろう

仕組みを知ろう

LIME：Local Interpretable Model-agnostic Explanations

• LIME はモデルのコミュニケーションを助ける通訳者
• 特定の予測について、モデルの意思決定プロセスを簡易化
• 例：
  • 監督の人気や予算規模などの要因に基づいて、映画のヒット予測を説明

¹ アイコン作成：Freepik (www.flaticon.com)

シャープレイ加法説明（SHAP）

• SHAP： AI の探偵、各特長の重要度を明らかにする
• SHAP の実践
  • ディレクター： 50%
  • キャスト： 30%
  • ジャンル： 15%
  • 予算： 5%

XAI の未来

• XAI には、さらに多くの手法やアプローチが存在
• XAI と従来の AI の性能差は縮まっている
• 継続的な研究の結果、AI の解釈可能性が向上

練習しましょう！

AI の倫理