Tokenisierung und Transformer

ChatGPT für Fortgeschrittene

Alex Banks

Founder & Educator

Tokenisierung

Bild von einem Mann, der einen Transformer-ähnlicher Roboter anschaut und sich das Wort „Tokens” vorstellt

Tokenisierung

Bild von einem Mann, der aussieht wie der Terminator aus dem gleichnamigen Film

Codierung

Bild von einem Mann, der aussieht wie der Terminator aus dem gleichnamigen Film

Vektorisierung

Bild von einem Mann, der aussieht wie der Terminator aus dem gleichnamigen Film

Decodierung

Bild von einem Mann, der aussieht wie der Terminator aus dem gleichnamigen Film

Self-Attention

Transformer-ähnlicher Roboter neben einer Waage

Self-Attention

Bild von einer Katze, die auf einer Matte sitzt

Token-Beziehungen

Das Bild zeigt zwei bunte Roboter in einem großen rosa Herz, das von kleineren Herzen umgeben ist. Über dem Roboter links steht „it“ und neben dem Roboter rechts steht „the cat“. Links neben dem Herz sind drei Textbausteine senkrecht angeordnet: „the cat“, „sat“ und „the cat“, alle in blauer Schrift

Kontextverständnis

Das Bild zeigt zwei bunte Roboter, die nebeneinander sitzen, wobei der rechte Roboter eine Handbewegung macht, als würde er sprechen.

Lass uns üben!

ChatGPT für Fortgeschrittene