Skalierung und Concurrency-Kontrollen

Serverlose Anwendungen mit AWS Lambda

Claudio Canales

Senior DevOps Engineer

Skalierung auf einen Blick

• Mehr Nachfrage -> mehr parallele Läufe.
• Jeder Lauf nutzt eine Ausführungsumgebung.
• Concurrency = laufende Ausführungen jetzt.

Was ist Concurrency?

• Eine Invocation = eine Arbeitseinheit.
• Concurrency = wie viele jetzt laufen.
• Wenn 10 laufen, ist Concurrency = 10.

Erforderliche Concurrency schätzen

• Faustregel: concurrency = rps * duration.
• Kürzere Dauer senkt Concurrency.
• Nutze das, um Limits sicher zu dimensionieren.

Beispiel: 50 rps bei 200 ms

• 200 ms = 0,2 Sekunden.
• 50 * 0,2 = 10 gleichzeitige Ausführungen.
• Schnellere Funktionen brauchen weniger Parallelität.

Limits: Konto-Pool vs. Funktionsanteil

• Concurrency ist auf Kontoebene begrenzt.
• Reserviere einen Teil für eine kritische Funktion.
• Andere Funktionen teilen sich den Rest.

Reserved Concurrency: hartes Limit

• Ein Sicherheitsventil.
• Begrenzt parallele Arbeit.
• Über dem Limit wird gedrosselt.
• Eine laute Funktion verbraucht nicht alles.

Throttling: so sieht es aus

• Lambda drosselt am Concurrency-Limit.
• Der Aufrufer erhält keine normale Ausführung.
• Drosselungen sieht man im Monitoring.

Provisioned Concurrency: warme Kapazität

• Ein Pool vorinitialisierter Umgebungen.
• Oft hinter einem Alias.
• Anfragen starten schneller.

Cold Start vs. Provisioned

Cold Start

• Einmalige Initialisierungsverzögerung.
• Erste Anfrage zahlt die Einrichtung.

Provisioned

• Init-Arbeit vorab erledigt.
• Erste Anfrage zahlt nicht die Einrichtung.

Reserved vs. Provisioned (verschiedene Probleme)

• Reserved steuert Last.
• Provisioned steuert Start-Latenz.
• Viele Produktionsfunktionen nutzen beides.

Downstream-Systeme schützen

• Datenbanken vertragen nur begrenzte Verbindungen.
• Ein Concurrency-Limit verhindert Überlast.
• Eine Traffic-Spitze kann sonst zum Ausfall führen.

Bursts vs. konstanter Traffic

• Bursts erzeugen viele parallele Umgebungen.
• Langsame Handler halten Concurrency hoch.
• Limits können Spitzen glätten.
• Kürzere Dauer ist auch eine Skalierungsstrategie.

Fehler und Retries erhöhen die Last

• Retries können Traffic verstärken.
• Concurrency-Limits verkleinern den Einschlag.
• Schleifen bei Fehlern überlasten Abhängigkeiten.

Ein einfacher Tuning-Workflow

• Starte mit Messungen.
• Setze ein Concurrency-Limit bei Drosseln oder Druck.
• Füge Provisioned hinzu, wenn Cold Starts die Latenz schmerzen.

Wichtigste Erkenntnisse

• Concurrency hilft beim Denken über Skalierung.
• Schätzung: rps * duration.
• Reserved begrenzt Last; beobachte Drosseln.
• Provisioned senkt Cold-Start-Latenz.

Lass uns üben!

Serverlose Anwendungen mit AWS Lambda