GPT-Modelle und LLM-Training

ChatGPT für Fortgeschrittene

Alex Banks

Founder & Educator

Die Ursprünge von GPT

Auf dem Bild sieht man links einen überraschten Mann, der auf drei violette Balken in einem Diagramm schaut, die von links nach rechts immer größer werden und mit GPT-1, GPT-2 und GPT-3 beschriftet sind. Die Balken zeigen, wie groß die einzelnen Versionen geworden sind.

Die Ursprünge von GPT

Eine Illustration zeigt einen Mann, der auf eine ovale Form schaut, die eine Nervenzelle darstellt.

Warum GPT?

Eine Illustration zeigt einen verwirrten Mann mit einem Fragezeichen über dem Kopf. Rechts davon stehen die Wörter „Generative“, „Pre-trained“ und „Transformer“ und ein Pfeil zeigt auf „GPT“, das fett und unterstrichen ist

Ein Bild zeigt einen Mann, der mit einem Bleistift in ein Notizbuch schreibt. Links von ihm steht das Wort „Generative“

Bild von einem rennenden Mann, mit Büchern und elektronischen Geräten hinter sich, rechts steht „Pre-trained

Bild von einem Mann, der sich von einem Zustand in einen anderen verwandelt, mit dem Wort „Transformer“ darüber

Bild von einem Mann, der an einem Laptop sitzt, daneben erscheint das ChatGPT-Logo

Wie trainieren wir LLMs?

Bild von einer Frau, die mit einem aufgeschlagenen Buch in den Händen neben einem großen Roboter steht. Beide schauen auf das Buch

Schritt 1 – Pre-Training

Viele Internetdaten minderer Qualität Bild von einer Frau mit einem Klemmbrett, auf dem ein Diagramm und eine Tabelle mit Infos zum Pre-Trainingsprozess und Daten von GPT-Modellen zu sehen sind

Schritt 2 – Finetuning

Wenig Gesprächsdaten hoher Qualität Bild von einer Frau neben einem Roboter mit ein paar beispielhaften Gesprächsdaten

Schritt 3 – RLHF

RLHF = Reinforcement Learning from Human Feedback

Bild von zwei Frauen, die Fragezeichen-Karten halten, mit Sprechblasen über ihren Köpfen, in denen „Option A” und „Option B” steht

Erstellen von Vergleichslabels mit KI

Bild von einer Frau, die neben einem Roboter den Daumen hochhält. Neben den beiden sieht man drei Haikus zum Thema KI. Der Roboter hat eine Sprechblase mit der Aufschrift „Das hier!“

Erstellen von Vergleichslabels mit KI

Beim Labeln arbeiten Mensch und Maschine eng zusammen.

Bild, das ein Personensymbol und ein Robotersymbol zeigt, die durch einen Schieberegler verbunden sind, mit einer Frau und einem großen Roboter, die harmonisch daneben stehen.

Lass uns üben!

ChatGPT für Fortgeschrittene