Modelltraining

Konzeptuelle Einführung in generative KI

Daniel Tedesco

Data Lead, Google

Wähle dein Transportmittel

Bild eines Flugzeugs und eines Autos

  1. Hardware
  2. Zeit
    • Größe des Datensatzes
    • Modellkomplexität
    • Trainingsrunden
  3. Kosten
Konzeptuelle Einführung in generative KI

Übergang zu fortgeschrittenen Techniken

  • Generatives KI-Grundmodell ist erster Schritt
  • Fortgeschrittene Techniken spezialisieren sie für bestimmte Kontexte

Fortgeschrittene Schlüsseltechniken:

  1. Transfer Learning und Fine-Tuning
  2. RLHF
  3. Benutzerdefinierte Embeddings

Ein Bild von Studierenden bei ihrer Abschlussfeier

Konzeptuelle Einführung in generative KI

Von Katzen zu Löwen

  • Transfer Learning überträgt Wissen von einer Aufgabe auf andere
  • Fine-Tuning ist eine Art Transfer Learning für kleinen Datensatz

Ein Modell, das von Löwenbildern lernt und sagt: "Immer noch pelzig, vier Pfoten... Ich hab's!", und produziert dann ein Löwenbild

1 Creative Commons Attribution-Share Alike 4.0, Bing-Bildgenerator
Konzeptuelle Einführung in generative KI

Was passiert mit deinem Feedback?

Bild der Google Bard Chat-Oberfläche mit den hervorgehobenen Feedback-Optionen "Daumen hoch" und "Daumen runter"

1 Google Bard, 2023
Konzeptuelle Einführung in generative KI

Daumen hoch für bessere Antworten

Mehrere Textantworten, die mit "Daumen hoch" oder "Daumen runter" bewertet wurden, werden an einen Roboter weitergeleitet, der sagt: "Okay, jetzt weiß ich, welche Art von Antworten die Menschen mögen"

1 Google Bard, 2023
Konzeptuelle Einführung in generative KI

Embeddings als Fingerabdrücke

  • Ähnlich wie Erkennen eines Fingerabdrucks
  • Einzigartige Darstellungen von Dateneinheiten
  • Festhalten von Bedeutung, Kontext und Beziehungen in kompakter Form

Eine Reihe von Fingerabdrücken

1 Wikimedia commons
Konzeptuelle Einführung in generative KI

Embedding von Daniel

Verschiedene Porträtfotos von Daniel Tedesco, die einer generativen KI übergeben werden

1 Daniel Tedesco, 2023
Konzeptuelle Einführung in generative KI

Embedding von Daniel

Ein Modell, das eine Vielzahl von stilisierten Porträt-Bildern von Daniel Tedesco produziert

1 Porträts von Daniel Tedesco (vana.com)
Konzeptuelle Einführung in generative KI

Lass uns üben!

Konzeptuelle Einführung in generative KI

Preparing Video For Download...