AKS에서 애플리케이션 스케일링

Azure Compute Solutions

Florin Angelescu

Azure Cloud Architect

스케일링이 중요한 이유

 

 

• 애플리케이션 트래픽은 일정하지 않습니다:

  • 어떤 시간대는 한가합니다
  • 다른 시간대는 급증합니다

• 스케일링이 없으면:

  • 워크로드가 과부하될 수 있습니다
  • 성능 저하나 다운타임을 유발합니다

스케일링이 중요한 이유

 

 

• Kubernetes는 리소스를 동적으로 조정하는 메커니즘을 제공합니다.
• 애플리케이션은 수요를 효율적으로 처리할 수 있습니다.
• 스케일링의 효과:
  • 사용자에게 일관된 경험 제공
  • 조직의 비용 최적화

수동 스케일링

kubectl scale을 사용해 배포의 복제본 수를 늘리거나 줄입니다.

수동 스케일링

웹 앱을 복제본 2개에서 4개로 스케일:

• 요청 처리를 위한 더 많은 파드 확보

수동 스케일링

 

 

 

다음에 유용합니다:

• 예정된 제품 출시
• 프로모션
• 재고 할인 판매

Horizontal Pod Autoscaler(HPA)

Horizontal Pod Autoscaler(HPA)

메트릭(CPU, 메모리)을 모니터링해 복제본 수를 자동 조정합니다.

Horizontal Pod Autoscaler(HPA)

사용량이 임계값을 넘으면:

• 파드가 더 생성됩니다

Horizontal Pod Autoscaler(HPA)

수요가 줄면:

• 파드를 제거합니다

Horizontal Pod Autoscaler(HPA)

• Azure Monitor와 통합됩니다.
• 사용자 지정 메트릭(요청 지연, 큐 길이)을 지원합니다.

클러스터 오토스케일러

 

 

 

• 수요에 따라 노드를 추가/제거합니다.
• 리소스 부족으로 파드를 스케줄하지 못하면:
  • 새 노드를 자동으로 프로비저닝합니다

클러스터 오토스케일러

 

 

 

• 수요 감소 시:

  • 미사용 노드를 제거해 비용을 절감합니다

• 인프라를 워크로드에 맞춥니다:

  • 과도한 프로비저닝 없이

스케일링 모범 사례

현실적인 리소스 요청과 한도를 정의하십시오

HPA와 클러스터 오토스케일러를 함께 사용하십시오

부하 상태에서 스케일링 동작을 테스트하십시오

비용을 모니터링하십시오

요약

 

• AKS의 스케일링은 수요에 자동 대응합니다:
  • 수동 스케일링
  • Horizontal Pod Autoscaler
  • 클러스터 오토스케일러
• 성능과 효율을 균형 있게 유지하십시오.

Ayo berlatih!

Azure Compute Solutions