説明可能性と 解釈可能性

AIを理解する

Iason Prassides

Content Developer, DataCamp

説明可能性と 解釈可能性

説明可能性：AIシステムの判断・予測・回答の根拠を、人間が理解できること

機械学習ペンギン分類器における説明可能性

解釈可能性：AIシステムの内部プロセスを理解する→アルゴリズム、モデル、データワークフロー

決定木ベースの機械学習モデルにおける解釈可能性

AIを理解する

ホワイトボックス vs ブラックボックス

ホワイトボックス： 透明性が高く、解釈しやすいモデル・システム

ホワイトボックスの例：線形回帰

AIを理解する

ホワイトボックス vs ブラックボックス

ホワイトボックス： 透明性が高く、解釈しやすいモデル・システム

線形回帰と決定木

AIを理解する

ホワイトボックス vs ブラックボックス

ホワイトボックス： 透明性が高く、解釈しやすいモデル・システム

線形回帰と決定木

AIを理解する

ホワイトボックス vs ブラックボックス

ブラックボックス：複雑性が高く、（ほとんど）理解できない

ブラックボックスモデルとしてのディープニューラルネットワーク

AIを理解する

ホワイトボックス vs ブラックボックス

ブラックボックス：複雑性が高く、（ほとんど）理解できない

ブラックボックスモデルとしてのディープニューラルネットワーク

AIを理解する

基本的な説明可能AI（XAI）ツール

説明可能なAI（XAI）：AIシステムとモデルの透明性と説明可能性を高めるための手法とツール XAIツール

  • モデルの内部解析：モデルの内部パラメータを調べ、判断の根拠を理解する
AIを理解する

基本的な説明可能AI（XAI）ツール

説明可能なAI（XAI）：AIシステムとモデルの透明性と説明可能性を高めるための手法とツール XAIツール

  • モデルの内部解析：モデルの内部パラメータを調べ、判断の根拠を理解する
  • モデル文書化：機構と設計時の情報の共有
AIを理解する

基本的な説明可能AI（XAI）ツール

説明可能なAI（XAI）：AIシステムとモデルの透明性と説明可能性を高めるための手法とツール XAIツール

  • モデルの内部解析：モデルの内部パラメータを調べ、判断の根拠を理解する
  • モデル文書化：機構と設計時の情報の共有
  • モデルの可視化：モデルの入力から出力までに関する情報を、人間が理解できる形で表現
AIを理解する

XAIツール：特徴量重要度

特徴量重要度：データの特徴や予測変数がモデルの回答に与える影響を測る指標

  • データ駆動型のモデル（機械学習/ディープラーニング）がどのように判断を下すかを理解する
  • バイアスなどの問題を検出し除去する
  • 特徴を排除した場合のモデル性能への影響**

SHAP (SHapley Additive exPlanations)

  • 特徴量重要度の可視化ツールキット

説明可能性のためのSHAPによる可視化

AIを理解する

XAIツール：特徴量重要度

SHAP (SHapley Additive exPlanations)

大学入学予測モデルのSHAP特徴量重要度プロット

AIを理解する

XAIツール：特徴量重要度

SHAP (SHapley Additive exPlanations)

説明可能性のためのSHAP可視化ツール

AIを理解する

XAIツール：特徴量重要度

SHAP (SHapley Additive exPlanations)

説明可能性のためのSHAP可視化ツール

AIを理解する

XAIの意義

  • アルゴリズムの透明性：
    • データを処理し、判断を下す方法
  • 局所的・グローバル解釈可能性：
    • 局所的：「特定の予測」に対するシステムの動作を理解
    • グローバル：データセット・問題に対する「システム全体」の動作を理解
  • 倫理的問題：
    • 倫理的なAIの懸念に対応するXAI：バイアス、差別、コンプライアンスなど
  • 人間とAIの協働作業：
    • 信頼とフィードバックに基づく確かな協力関係
AIを理解する

練習しましょう！

AIを理解する

Preparing Video For Download...