AKS में एप्लिकेशन स्केलिंग

Azure Compute Solutions

Florin Angelescu

Azure Cloud Architect

स्केलिंग क्यों ज़रूरी है

 

कम ट्रैफ़िक

ज्यादा ट्रैफ़िक

 

  • एप्लिकेशन में ट्रैफ़िक शायद ही कभी स्थिर रहता है:

    • कुछ घंटों में शांति रहती है
    • कुछ में उपयोग अचानक बढ़ता है
  • स्केलिंग न होने पर:

    • वर्कलोड ओवरलोड हो सकते हैं
    • परफॉर्मेंस गिरती है या डाउनटाइम होता है
Azure Compute Solutions

स्केलिंग क्यों ज़रूरी है

 

Kubernetes

 

  • Kubernetes संसाधनों को डायनेमिक रूप से समायोजित करने की व्यवस्था देता है.
  • एप्लिकेशन माँग को कुशलता से संभाल सकते हैं.
  • स्केलिंग से सुनिश्चित होता है:
    • यूज़र्स को एकसमान अनुभव मिलता है
    • संगठन लागत को ऑप्टिमाइज़ करते हैं
Azure Compute Solutions

मैनुअल स्केलिंग

मैनुअल स्केलिंग

kubectl scale का उपयोग कर डिप्लॉयमेंट में replicas की संख्या बढ़ाएँ या घटाएँ.

Azure Compute Solutions

मैनुअल स्केलिंग

मैनुअल स्केलिंग

वेब ऐप को दो replicas से चार तक स्केल करना:

  • अधिक pods अनुरोधों को सर्व करने को उपलब्ध रहते हैं
Azure Compute Solutions

मैनुअल स्केलिंग

 

मैनुअल स्केलिंग

मैनुअल स्केलिंग

 

 

इन स्थितियों में उपयोगी:

  • योजनाबद्ध प्रोडक्ट लॉन्च
  • प्रमोशंस
  • स्टॉक सेल्स
Azure Compute Solutions

Horizontal Pod Autoscaler (HPA)

HPA

Azure Compute Solutions

Horizontal Pod Autoscaler (HPA)

HPA

मेट्रिक्स (CPU और मेमोरी उपयोग) को मॉनिटर करता है और replicas की संख्या ऑटोमैटिकली समायोजित करता है.

Azure Compute Solutions

Horizontal Pod Autoscaler (HPA)

HPA

उपयोग थ्रेशहोल्ड से ऊपर जाए:

  • अधिक pods बनाए जाते हैं
Azure Compute Solutions

Horizontal Pod Autoscaler (HPA)

HPA

माँग घटे:

  • pods हटाए जाते हैं
Azure Compute Solutions

Horizontal Pod Autoscaler (HPA)

HPA

  • Azure Monitor के साथ इंटीग्रेट करता है.
  • कस्टम मेट्रिक्स की अनुमति देता है (request latency, queue length).
Azure Compute Solutions

क्लस्टर ऑटोस्केलर

 

ऑटोस्केलर

 

 

  • माँग के अनुसार nodes जोड़ता या हटाता है.
  • संसाधन कम होने से pods शेड्यूल नहीं हो पाते:
    • नए nodes ऑटोमैटिकली प्रोविजन होते हैं
Azure Compute Solutions

क्लस्टर ऑटोस्केलर

 

ऑटोस्केलर

 

 

  • माँग घटे:

    • अनुपयोगी nodes लागत बचाने हेतु हटाए जाते हैं
  • इन्फ्रास्ट्रक्चर वर्कलोड जरूरतों से मेल खाता है:

    • ओवर-प्रोविजनिंग के बिना
Azure Compute Solutions

स्केलिंग के लिए बेहतरीन तरीके

मेट्रिक्स

यथार्थपरक resource requests और limits परिभाषित करें

कंबाइन

Horizontal Pod Autoscaler को Cluster Autoscaler के साथ कंबाइन करें

टेस्ट

लोड में स्केलिंग व्यवहार टेस्ट करें

कॉस्ट

लागत मॉनिटर करें

Azure Compute Solutions

सारांश

 

Kubernetes

  • AKS में स्केलिंग से एप्लिकेशन माँग के अनुसार ऑटोमैटिकली ढलते हैं:
    • मैनुअल स्केलिंग
    • Horizontal Pod Autoscaler
    • Cluster Autoscaler
  • परफॉर्मेंस और एफिशिएंसी का संतुलन रखें.
Azure Compute Solutions

अभ्यास करते हैं!

Azure Compute Solutions

Preparing Video For Download...