Escalonamento e controles de concorrência

Aplicações Serverless com AWS Lambda

Claudio Canales

Senior DevOps Engineer

Escala em uma imagem

• Mais demanda -> mais execuções paralelas.
• Cada execução usa um ambiente.
• Concorrência = execuções acontecendo agora.

O que é concorrência?

• Uma invocação = uma unidade de trabalho.
• Concorrência = quantas rodam agora.
• Se 10 estão rodando, concorrência = 10.

Estimando a concorrência necessária

• Regra prática: concurrency = rps * duration.
• Reduza a duração para reduzir a concorrência.
• Use isso para dimensionar limites com segurança.

Exemplo: 50 rps em 200 ms

• 200 ms = 0,2 segundo.
• 50 * 0,2 = 10 execuções simultâneas.
• Código mais rápido = menos paralelismo.

Limites: pool da conta vs fatia da função

• A concorrência é limitada no nível da conta.
• Reserve parte do pool para uma função crítica.
• As demais funções compartilham o restante.

Concorrência reservada: teto rígido

• Uma válvula de segurança.
• Limita o trabalho em paralelo.
• Acima do teto, as invocações sofrem throttle.
• Uma função barulhenta não esgota a capacidade.

Throttling: como aparece

• O Lambda aplica throttle no limite de concorrência.
• O chamador não recebe execução normal.
• Você vê throttles no monitoramento.

Concorrência provisionada: capacidade aquecida

• Um pool de ambientes pré-inicializados.
• Geralmente atrás de um alias.
• As requisições começam mais rápido.

Cold start vs provisionada

Cold start

• Um atraso de inicialização único.
• A primeira requisição paga o custo de setup.

Provisionada

• Trabalho de init feito antes.
• A primeira requisição não paga o setup.

Reservada vs provisionada (problemas diferentes)

• Reservada controla carga.
• Provisionada controla a latência de startup.
• Muitas funções em produção usam ambas.

Proteger sistemas a jusante

• O banco aguenta só um número de conexões.
• Um teto de concorrência evita isso.
• Um pico de tráfego pode virar indisponibilidade.

Rajadas vs tráfego estável

• Rajadas criam muitos ambientes paralelos.
• Handlers lentos mantêm a concorrência alta.
• Tetos suavizam o pico.
• Reduzir a duração também é estratégia de escala.

Falhas e retries aumentam a carga

• Retries podem amplificar o tráfego.
• Limites de concorrência reduzem o impacto.
• Um loop de falha pode sobrecarregar dependências.

Um fluxo simples de tuning

• Comece medindo.
• Defina teto quando surgir throttle ou pressão.
• Adicione capacidade provisionada quando cold starts afetarem a latência.

Pontos-chave

• Concorrência ajuda a pensar em escala.
• Estime: rps * duration.
• Reservada limita carga; monitore throttles.
• Provisionada reduz a latência de cold start.

Vamos praticar!

Aplicações Serverless com AWS Lambda