Chains und Agents

LLMOps-Konzepte

Max Knobbout, PhD

Applied Scientist, Uber

LLM-Lebenszyklus: Chains und Agents

Überblick über die Phasen des LLM‑Anwendungszyklus

Promptvorlage für Kalorienklassifizierung von Gerichten

Eine LLM‑App mit einer Chain, die ähnliche Gerichte aus der Datenbank holt

Ein verspieltes Bild: eine Cartoonfigur reitet eine Robotermouse

Agents bestehen aus:
- Mehreren Aktionen (Tools)
- Einem LLM, das die nächste Aktion wählt

Nützlich, wenn:
- Viele Aktionen möglich sind
- Die optimale Schrittfolge unbekannt ist
- Eingaben unsicher sind

Eine Agent-Architektur mit zwei Aktionen

Eine Agent-Architektur mit zwei Aktionen

Eine Agent-Architektur mit zwei Aktionen

	Chains 🔗	Agents 🤖
Art	Deterministisch	Adaptiv
Komplexität	Niedrig	Hoch
Flexibilität	Niedrig	Hoch
Risiko	Geringer (wegen Vorhersagbarkeit)	Höher (wegen Anpassungsfähigkeit)

Entwicklungszyklus mit hinzugefügter Aktivität: Prompt Engineering

Entwicklungszyklus mit Chains und Agents.

Entwicklungszyklus mit hinzugefügter Aktivität: Chain- und Agent-Entwicklung

LLMOps-Konzepte