Prompt Engineering

LLMOps-Konzepte

Max Knobbout, PhD

Applied Scientist, Uber

LLM-Lifecycle: Prompt Engineering

Übersicht der Phasen im LLM-Anwendungslebenszyklus

LLMOps-Konzepte

Der Entwicklungszyklus

Erste Übersicht des Entwicklungszyklus, der in diesem Kapitel verfeinert wird

LLMOps-Konzepte

Warum ist Prompt Engineering wichtig?

 

Ein verspielter Cartoon, der Prompts erklärt

 

 

  • Leistung verbessern
  • Output steuern
  • Bias und Halluzinationen vermeiden
LLMOps-Konzepte

Elemente eines Prompts

 

 

  1. Anweisung
  2. Beispiele / Kontext
  3. Eingabedaten
  4. Ausgabeindikator

Beispiel eines Prompts mit Anweisung, Beispielen, Eingabe und Ausgabe

LLMOps-Konzepte

Den perfekten Prompt finden

 

 

Bild von zwei Cartoonfiguren, die auf einem Spielplatz spielen

 

Experimenti looming mit:

  • LLM-Einstellungen wie Temperature oder max tokens
  • In-Context Learning und andere Prompt-Patterns

 

Nutze ein Playground zum Ausprobieren!

LLMOps-Konzepte

Prompt-Management

 

 

Eine verspielte Cartoonfigur, die Prompts in eine Archivbox einsortiert

  • Entscheidend für Effizienz, Reproduzierbarkeit und Zusammenarbeit
  • Wichtige Dinge zum Nachverfolgen:
    • Prompt
    • Output
    • Modell und Einstellungen
  • Prompt-Manager oder Versionskontrolle nutzen
  • Eine Sammlung guter Input-Output-Paare zur Evaluation aufbauen
LLMOps-Konzepte

Prompt-Vorlagen für Wiederverwendung

Bild eines Prompts links und einer Prompt-Vorlage rechts, das den Unterschied zeigt

LLMOps-Konzepte

Der Entwicklungszyklus

Erste Übersicht des Entwicklungszyklus, der in diesem Kapitel verfeinert wird

LLMOps-Konzepte

Der Entwicklungszyklus

Entwicklungszyklus mit der hinzugefügten Aktivität Prompt Engineering

LLMOps-Konzepte

Lass uns üben!

LLMOps-Konzepte

Preparing Video For Download...