Erklärbarkeit von LLMs

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Folkert Stijnman

ML Engineer

Large Language Models (LLMs)

  • Menschliche Sprache verstehen, generieren und deuten
  • ChatGPT, Bard
  • Auf riesigen Textmengen trainiert
  • Schreiben: Artikel, Poesie, Code
  • Wie Entscheidungen nachvollziehen?

 

eine Grafik eines LLM

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

LLMs und Erklärbarkeit

Grafik, die zeigt, wie Daten in ein Large Language Model fließen und wie es per Prompt gesteuert wird

  • Komplex durch:
    • Tiefe und Größe der neuronalen Schichten im Modell
    • Sehr große Textmengen, z. B. Terabytes an Daten
Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Methoden zur Erklärbarkeit von LLMs

Ersteller

  • Transparenz bei Trainingsdaten
  • Einfachere Modelle nutzen
  • Menschliches Feedback einbeziehen

Endnutzer

  • Selbsterklärung
  • Eingabe verfeinern
Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Zukünftige Nutzung von LLMs

  • Erklärbarkeit bleibt erforderlich
  • Vertrauen und Sicherheit aufbauen

eine Grafik mit einem Gehirn und Aspekten der Sprachverarbeitung

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Lass uns üben!

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Preparing Video For Download...