Einführung in erklärbare KI

Erklärbare KI in Python

Fouad Trad

Machine Learning Engineer

Über mich

fouadtrad.jpg

Fouad Trad
  • Machine-Learning-Engineer
  • Doktorand
  • Schwerpunkt: KI für Cybersicherheit
LinkedIn

mylinkedin.jpg

Erklärbare KI in Python

Künstliche Intelligenz

  • KI ermöglicht Maschinen menschenähnliche Aufgaben

Bild eines Menschen, der Schach gegen eine Maschine spielt.

Erklärbare KI in Python

Warum Erklärbarkeit?

 

Bild eines geschlossenen Black-Box-Systems, das einen Input erhält und einen Output erzeugt.

 

  • Black-Box-KI: Entscheidungsfindung nicht nachvollziehbar
Erklärbare KI in Python

Warum Erklärbarkeit?

 

Bild eines offenen Systems, das einen Input erhält und einen Output erzeugt.

 

  • Black-Box-KI: Entscheidungsfindung nicht nachvollziehbar
  • Erklärbare KI: innere Funktionsweise verstehen
Erklärbare KI in Python

Erklärbarkeit vs. Genauigkeit

  • Einfache Modelle sind:

    • besser erklärbar
    • weniger genau

  • Komplexe Modelle sind:

    • genauer
    • weniger erklärbar

Grafik mit KI-Modellen von einfach bis komplex (regelbasiert, lineare Modelle, Entscheidungsbäume, k-NN, SVMs, neuronale Netze). Sie zeigt: einfache Modelle sind oft erklärbarer, aber weniger genau; komplexe sind sehr genau, aber schwerer zu interpretieren.

Erklärbare KI in Python

Entscheidungsbäume vs. Neuronale Netze

Entscheidungsbäume

Zeigen Entscheidungsweg anhand von Bedingungen

Darstellung eines Entscheidungsbaums, der zeigt, wie Vorhersagen über mehrere Bedingungen getroffen werden

Erklärbare KI in Python

Entscheidungsbäume vs. Neuronale Netze

Entscheidungsbäume

Zeigen Entscheidungsweg anhand von Bedingungen

Entscheidungsbaum für das Zulassungsbeispiel: Ohne Bachelorabschluss wird abgelehnt. Sonst: Aufnahme nur bei Note > 8,5

Erklärbare KI in Python

Entscheidungsbäume vs. Neuronale Netze

Entscheidungsbäume

Zeigen Entscheidungsweg anhand von Bedingungen

Entscheidungsbaum für das Zulassungsbeispiel: Ohne Bachelorabschluss wird abgelehnt. Sonst: Aufnahme nur bei Note > 8,5

Neuronale Netze

Nicht von Natur aus transparent

Bild der Struktur eines neuronalen Netzes: mehrere versteckte Schichten mit vielen Neuronen.

Erklärbare KI in Python

Entscheidungsbäume vs. Neuronale Netze

Entscheidungsbäume

Zeigen Entscheidungsweg anhand von Bedingungen

Entscheidungsbaum für das Zulassungsbeispiel: Ohne Bachelorabschluss wird abgelehnt. Sonst: Aufnahme nur bei Note > 8,5

Neuronale Netze

Nicht von Natur aus transparent

Bild: dasselbe neuronale Netz erhält Studierendenmerkmale und sagt Aufnahme oder Ablehnung voraus.

Erklärbare KI in Python

Vorhersage Studienzulassung

GRE-Score TOEFL-Score Uni-Rating SOP LOR CGPA Aufnahme
337 118 4 4,5 4,5 9,65 1
316 104 3 3 3,5 8,00 1
314 103 2 2 3 8,21 0

 

  • Testergebnisse: GRE und TOEFL
  • Uni-Rating
  • SOP: Statement of Purpose
  • LOR: Empfehlungsschreiben
  • CGPA: kumulativer Notendurchschnitt
Erklärbare KI in Python

Vorhersage Studienzulassung

Entscheidungsbaum
from sklearn.tree import DecisionTreeClassifier

model = DecisionTreeClassifier(max_depth=5)


model.fit(X_train, y_train)


y_pred = model.predict(y_test)


acc = accuracy_score(y_test, y_pred)
print(f"Accuracy of Decision Tree: {acc}")

Accuracy of Decision Tree: 0.82
Neuronales Netz
from sklearn.neural_network import MLPClassifier

model = MLPClassifier(hidden_layer_sizes=(1000,1000))


model.fit(X_train, y_train)


y_pred = model.predict(y_test)


acc = accuracy_score(y_test, y_pred)
print(f"Accuracy of Neural Network: {acc}")

Accuracy of Neural Network: 0.9
Erklärbare KI in Python

Regeln des Entscheidungsbaums

from sklearn.tree export_text

rules = export_text(model, feature_names=list(X_train.columns))


print(rules)

|--- CGPA <= 8.34
|   |--- GRE Score <= 320.50
|   |   |--- class: 0

|   |--- GRE Score >  320.50
|   |   |--- class: 1

|--- CGPA >  8.34
|   |--- GRE Score <= 319.50
|   |   |--- class: 1
...
Erklärbare KI in Python

Modellspezifisch vs. modellagnostisch

Modellspezifisch

Gilt für ein bestimmtes Modell

Bild eines Schlüssels für ein bestimmtes Schloss

Erklärbare KI in Python

Modellspezifisch vs. modellagnostisch

Modellspezifisch

Gilt für ein bestimmtes Modell

Bild eines Schlüssels für ein bestimmtes Schloss

Modellagnostisch

Gilt für jedes Modell

Bild eines Universalschlüssels, der mehrere Schlösser öffnet

Erklärbare KI in Python

Wie geht’s weiter?

  • Modellspezifische und modellagnostische Techniken
  • Lokale und globale Methoden
  • Fortgeschrittene Themen:
    • Metriken der Erklärbarkeit
    • Unüberwachte Erklärbarkeit
    • Erklärbarkeit für Generative KI

Logos der Bibliotheken: SHAP, LIME und Scikit-learn

Erklärbare KI in Python

Lass uns üben!

Erklärbare KI in Python

Preparing Video For Download...