KI-Agenten erfolgreich skalieren

Skalierbare agentische Systeme entwickeln

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Alles läuft nach Plan

confident_start1.jpg

Skalierbare agentische Systeme entwickeln

Alles läuft nach Plan

confident_start2.jpg

Skalierbare agentische Systeme entwickeln

Alles läuft nach Plan

confident_start3.jpg

Skalierbare agentische Systeme entwickeln

Alles läuft nach Plan

confident_start4.jpg

Skalierbare agentische Systeme entwickeln

Alles läuft nach Plan

confident_start5.jpg

Skalierbare agentische Systeme entwickeln

Alles läuft nach Plan

confident_start6.jpg

Skalierbare agentische Systeme entwickeln

Probleme machen sich breit

trouble_at_scale.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 1: fragile Evaluierung

fragile_evaluation1.jpg

1 hoch = in den Norden
Skalierbare agentische Systeme entwickeln

Fehlertyp 1: fragile Evaluierung

1 hoch = in den Norden
Skalierbare agentische Systeme entwickeln

Fehlertyp 1: fragile Evaluierung

fragile_evaluation3.jpg

1 hoch = in den Norden
Skalierbare agentische Systeme entwickeln

Fehlertyp 2: Zweckverschiebung

intent_drift1.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 2: Zweckverschiebung

intent_drift2.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 3: unerwünschte Feedbackschleifen

ratings.png

Positiv → Witze, Sarkasmus usw.

Ergebnis → Charme statt Wahrheit

feedback_loop.png

Kennzahlen für alle Performance-Aspekte definieren

  • Wahrheit
  • Verständlichkeit
  • Tonalität
Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks1.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks2.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks3.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks4.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks5.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 4: Latenzengpässe

latency_bottlenecks6.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 5: zu hohe Kosten

latency_bottlenecks6.jpg

Skalierbare agentische Systeme entwickeln

Fehlertyp 5: zu hohe Kosten

usage_limits.jpg

Skalierbare agentische Systeme entwickeln

Probier es aus!

Skalierbare agentische Systeme entwickeln

Preparing Video For Download...