Die neuartigen Fähigkeiten von LLMs

Konzepte großer Sprachmodelle (LLMs)

Vidhi Chugh

AI strategist and ethicist

Verwendung von Textdaten

Ein Bild, das Sentimentanalyse, Spam-Erkennung und digitale Assistenten zeigt

  • Unstrukturierte Daten – chaotisch und widersprüchlich
1 Freepik
Konzepte großer Sprachmodelle (LLMs)

Maschinen verstehen keine Sprache!

Ein Bild, das zeigt, dass ein Computer Sprache nicht so interpretieren kann, wie sie ist.

1 Freepik
Konzepte großer Sprachmodelle (LLMs)

Notwendigkeit maschineller Sprachverarbeitung – NLP

 

Ein Bild, das NLP als Brücke zwischen Text und Zahlen zeigt, die dann vom Computer verstanden werden.

1 Freepik
Konzepte großer Sprachmodelle (LLMs)

Einzigartige Fähigkeiten von LLMs

 

  • Sprachliche Feinheiten
    • Ironie
    • Humor
    • Wortspiele
    • Sarkasmus
    • Tonfall
    • Absicht

Jemand steht mit einem Klemmbrett da und zeigt auf einen Text und ein großes Fragezeichen

1 Freepik
Konzepte großer Sprachmodelle (LLMs)

Was ist dein Lieblingsbuch?

 

  • Natürliche Antwort: „Oh, das ist eine schwierige Frage!“

 

  • Persönliche Meinung: „Mein absolutes Lieblingsbuch ist „Wer die Nachtigall stört“.“

 

  • Begründungen: „Es ist eine starke Geschichte über Vorurteile, Gerechtigkeit und das menschliche Leben.“

 

  • Weiterführende Fragen: „Hast du es gelesen?“
Konzepte großer Sprachmodelle (LLMs)

Sprachliche Feinheiten

Sarkasmus: „Oh toll, schon wieder ein Meeting.“

Traditionelle Sprachmodelle:

  • Antwort: „Worum geht es in dem Meeting?“
    • Neutral
    • Versteht keinen Sarkasmus

 

Großes Sprachmodell:

  • Antwort: „Klingt so, als würdest du dich schon darauf freuen!“
    • Verspielt
    • Mitreißend
    • Spiegelt Sarkasmus
Konzepte großer Sprachmodelle (LLMs)

Wie funktioniert das Verständnis von LLMs?

 

  • Auf riesigen Datenmengen trainiert

  • Größe von LLMs: Parameter

  • Parameter repräsentieren die Muster und Regeln

  • Mehr Parameter -> komplexe Muster

  • Erzeugen anspruchsvolle und genaue Antworten

Konzepte großer Sprachmodelle (LLMs)

Parameter

 

  • Wenige Steine –> simple Bauwerke

Ein Bild mit wenigen Blöcken

 

  • Mehr Steine -> komplexere und detailliertere Strukturen

Ein Bild, das viele Ziegelsteine zeigt

Konzepte großer Sprachmodelle (LLMs)

Entstehung neuer Fähigkeiten

 

  • Neu entstehende Fähigkeiten
    • Nur in großen Modellen zu finden

 

  • Ausmaß bestimmt durch:

    • Die Menge der Trainingsdaten
    • Die Anzahl der Modellparameter

 

Diagramm, das zeigt, wie sich die Leistung des Modells plötzlich verbessert, wenn die Größe des Modells über einen Übergangsschwellenwert hinausgeht.

Konzepte großer Sprachmodelle (LLMs)

Entstehung neuer Fähigkeiten

 

Ein Bild, das neue Funktionen wie Musik, Poesie, Codegenerierung, medizinische Diagnose und Behandlungsgruppen zeigt

Konzepte großer Sprachmodelle (LLMs)

LLM Baukasten

Bausteine von LLMs

Konzepte großer Sprachmodelle (LLMs)

Zusammenfassung

LLMs:

  • Überwinden die Unstrukturiertheit von Daten

 

  • Bessere Leistung als herkömmliche Modelle

 

  • Verstehen sprachliche Feinheiten

Wie?

  • Die „Größe“ von LLMs
  • Umfangreiche Trainingsdaten
  • Viele Parameter
  • Neu entstehende Fähigkeiten
Konzepte großer Sprachmodelle (LLMs)

Lass uns üben!

Konzepte großer Sprachmodelle (LLMs)

Preparing Video For Download...