Erklärbarkeit und Interpretierbarkeit

Künstliche Intelligenz verstehen

Iason Prassides

Content Developer, DataCamp

Erklärbarkeit und Interpretierbarkeit

Erklärbarkeit: Menschliche Fähigkeit, KI-Ergebnisse zu verstehen, z. B. Vorhersagen, Entscheidungen

Erklärbarkeit in einem ML-Pinguin-Klassifikator

Interpretierbarkeit: Verstehen der Prozesse von KI: Algorithmus, Modell, Daten-Workflow

Interpretierbarkeit in einem entscheidungsbaumbasierten ML-Modell

White-Box- vs. Black-Box-KI-Systeme

White-Box: transparente und leicht interpretierbare Modelle/Systeme

Lineare Regression als White-Box-Modell

White-Box- vs. Black-Box-KI-Systeme

White-Box: transparente und leicht interpretierbare Modelle/Systeme

Lineare Regression und Entscheidungsbaum

White-Box- vs. Black-Box-KI-Systeme

White-Box: transparente und leicht interpretierbare Modelle/Systeme

Lineare Regression und Entscheidungsbaum

White-Box- vs. Black-Box-KI-Systeme

Blackbox: höhere Komplexität, geringe oder keine Verständlichkeit

Tiefes neuronales Netz als Blackbox-Modell

White-Box- vs. Black-Box-KI-Systeme

Blackbox: höhere Komplexität, geringe oder keine Verständlichkeit

Tiefes neuronales Netz als Blackbox-Modell

Grundlegende Tools für erklärbare KI (XAI)

XAI: Methoden und Werkzeuge zur Erhöhung der Transparenz und Erklärbarkeit von KI

Modell-Introspektion: Interne Modellparameteranalyse für das Entscheidungsverständnis

Grundlegende Tools für erklärbare KI (XAI)

XAI: Methoden und Werkzeuge zur Erhöhung der Transparenz und Erklärbarkeit von KI

Modell-Introspektion: Interne Modellparameteranalyse für das Entscheidungsverständnis

Modelldokumentation: gemeinsam nutzbare Architektur und Designüberlegungen

Grundlegende Tools für erklärbare KI (XAI)

XAI: Methoden und Werkzeuge zur Erhöhung der Transparenz und Erklärbarkeit von KI

Modell-Introspektion: Interne Modellparameteranalyse für das Entscheidungsverständnis

Modelldokumentation: gemeinsam nutzbare Architektur und Designüberlegungen

Modellvisualisierung: Benutzerfreundliche Darstellung von Daten und Modellen

XAI-Tools: Bedeutung der Merkmale

Bedeutung der Merkmale: Einfluss oder Beitrag der Merkmale (Prädiktoren) zu den Modellergebnissen

Verstehen, wie datengesteuerte Modelle (ML/DL) Entscheidungen treffen
Erkennen und Abmildern von Probleme wie z. B. Vorurteile
Auswirkungen auf die Modellleistung, wenn ein Merkmal entfernt wird

SHAP (SHapley Additive exPlanations)

Werkzeugkasten zur Visualisierung der Bedeutung von Merkmalen

SHAP-Visualisierungen für Erklärbarkeit

XAI-Tools: Bedeutung der Merkmale

SHAP (SHapley Additive exPlanations)

SHAP-Merkmalsbedeutungsdiagramm für das Modell zur Vorhersage der Hochschulzulassung

XAI-Tools: Bedeutung der Merkmale

SHAP (SHapley Additive exPlanations)

SHAP-Visualisierungen für Erklärbarkeit

XAI-Tools: Bedeutung der Merkmale

SHAP (SHapley Additive exPlanations)

SHAP-Visualisierungen für Erklärbarkeit

Praktische Implikationen von XAI

Algorithmus-Transparenz:
- Wie Algorithmen Daten verarbeiten und Entscheidungen treffen

Lokale und globale Interpretierbarkeit:
- Das Systemverhalten für eine bestimmte Vorhersage verstehen, vs.
- Das Gesamtverhalten des Systems bei einem Datensatz oder Problem verstehen

Ethische Überlegungen:
- XAI adressiert ethische KI-Belange: Vorurteile, Diskriminierung, Compliance, usw.

Zusammenarbeit zwischen Mensch und KI:
- Verlässliche Zusammenarbeit auf der Grundlage von Vertrauen und Feedback

Lass uns üben!

Künstliche Intelligenz verstehen