Designprinzipien für skalierbare Agenten

Skalierbare agentische Systeme entwickeln

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Skalierbar oder nicht skalierbar?

Skalierbar oder nicht skalierbar?

Skalierbar oder nicht skalierbar?

Skalierbar oder nicht skalierbar?

Drei Säulen skalierbarer agentischer Systeme

Robuste Infrastruktur und geeignete Tools

• Rechenleistung: Ressourcen zum Ausführen von Code

• Speicher: für Zustände, Protokolle und Verläufe

Robuste Infrastruktur und geeignete Tools

Zuverlässige Deployment-Pipelines

Etablierte Agenten-Tools

Modularität

Systeme sind separate unabhängige Komponenten, die ein größeres Ganzes schaffen

• Design, Entwicklung und Wartung unabhängig von anderen Teilen

Modularität

Systeme sind separate unabhängige Komponenten, die ein größeres Ganzes schaffen

• Design, Entwicklung und Wartung unabhängig von anderen Teilen

Modularität

Systeme sind separate unabhängige Komponenten, die ein größeres Ganzes schaffen

• Design, Entwicklung und Wartung unabhängig von anderen Teilen

Modularität von Agenten: Softwaremodularität

Modularität von Agenten: Multi-Agenten

Modularität von Agenten: Multi-Agenten

Beispiel: Multi-Agent im Kundensupport

Vorschau auf Kapitel 2

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

Kontinuierliche Evaluierungen und Feedback-Schleifen

• Umfassendes Monitoring

Kontinuierliche Evaluierungen und Feedback-Schleifen

• Umfassendes Monitoring
• Häufige Kennzahlen:
  • Erfolgsquote
  • Latenz
  • Fehler

Kontinuierliche Evaluierungen und Feedback-Schleifen

• Umfassendes Monitoring
• Häufige Kennzahlen:
  • Erfolgsquote
  • Latenz
  • Fehler
• Feedback der Nutzenden einholen

Probier es aus!

Skalierbare agentische Systeme entwickeln