Ölçekleme ve eşzamanlılık denetimleri

AWS Lambda ile Sunucusuz Uygulamalar

Claudio Canales

Senior DevOps Engineer

Tek görselle ölçekleme

• Daha fazla talep -> daha çok paralel çalışma.
• Her çalışma bir yürütme ortamı kullanır.
• Eşzamanlılık = şu an çalışanlar.

Eşzamanlılık nedir?

• Bir çağrı = bir iş birimi.
• Eşzamanlılık = şu an kaçının çalıştığı.
• 10 çalışıyorsa, eşzamanlılık = 10.

Gerekli eşzamanlılığı tahmin etme

• Kural: eşzamanlılık = rps * süre.
• Süreyi düşürerek eşzamanlılığı azaltın.
• Sınırları güvenle boyutlandırmak için kullanın.

Örnek: 50 rps, 200 ms

• 200 ms = 0,2 saniye.
• 50 * 0,2 = 10 eşzamanlı yürütme.
• Daha hızlı kod, daha az paralel çalışma demektir.

Sınırlar: hesap havuzu ve işlev dilimi

• Eşzamanlılık hesap düzeyinde sınırlıdır.
• Kritik bir işlev için havuzdan pay ayırın.
• Diğer işlevler kalanını paylaşır.

Ayrılmış Eşzamanlılık: sert üst sınır

• Bir emniyet supabı.
• Paralel işi sınırlar.
• Üst sınırın üzerinde çağrılar kısılır.
• Gürültülü bir işlev kapasiteyi tüketemez.

Kısma: nasıl görünür

• Lambda, eşzamanlılık sınırında kısar.
• Çağıran normal yürütme alamaz.
• Kısıtları izleme metriklerinde görürsünüz.

Sağlanan Eşzamanlılık: hazır kapasite

• Önceden başlatılmış ortam havuzu.
• Genellikle bir takma adın arkasında.
• İstekler daha hızlı başlar.

Soğuk başlatma vs sağlanan

Soğuk başlatma

• Bir kerelik başlatma gecikmesi.
• İlk istek kurulum maliyetini öder.

Sağlanan

• Başlatma işi önceden yapılır.
• İlk istek kurulum maliyetini ödemez.

Ayrılmış vs sağlanan (farklı sorunlar)

• Ayrılmış, yükü kontrol eder.
• Sağlanan, başlatma gecikmesini kontrol eder.
• Birçok üretim işlevi ikisini de kullanır.

Alt sistemleri koruyun

• Veritabanı sınırlı bağlantı kaldırır.
• Bir eşzamanlılık üst sınırı bunu engeller.
• Trafik dalgası kesintiye dönebilir.

Patlama vs durağan trafik

• Patlamalar çok sayıda paralel ortam yaratır.
• Yavaş işleyiciler eşzamanlılığı yüksek tutar.
• Üst sınırlar dalgayı yumuşatır.
• Süreyi azaltmak da bir ölçekleme stratejisidir.

Hatalar ve yeniden denemeler yükü artırır

• Yeniden denemeler trafiği büyütür.
• Eşzamanlılık sınırları etki alanını küçültür.
• Bir hata döngüsü bağımlılıkları ezebilir.

Basit bir ayar iş akışı

• Ölçümle başlayın.
• Kısma veya baskı görünce eşzamanlılığı sınırlayın.
• Soğuk başlangıç gecikmesi acıtıyorsa sağlanan kapasite ekleyin.

Önemli çıkarımlar

• Eşzamanlılık, ölçeklemeyi düşünmeye yardım eder.
• Tahmin: rps * süre.
• Ayrılmış üst sınırlar yükü kısıtlar; kısma işaretlerine dikkat edin.
• Sağlanan, soğuk başlangıç gecikmesini azaltır.

Haydi pratik yapalım!

AWS Lambda ile Sunucusuz Uygulamalar