Responscaching en gebruiksquota

Azure API Management

Fiodar Sazanavets

Senior Software Engineer at Microsoft

Responscaching instellen

  • Als responses gecached zijn, is de backend-endpoint niet nodig
  • Cache vooral populaire endpoints die vaak dezelfde data geven
  • Rondreizen naar endpoints kosten tijd en geld
  • In APIM te implementeren via caching policies

Response caching

Azure API Management

Responscaching configureren

  • Configuratie van caching policies kan:
    • Cacheduur instellen
    • Variëren op querystring of headers
    • Locatie van de cache bepalen
  • Cachelocatie kan zijn:
    • De edge, d.w.z. API-gateway
    • Externe cachingservice, bv. Redis

Caching policies

Azure API Management

Beschermen tegen pieken in requests

Snelheidslimitering

  • Zelfs met caching kunnen te veel clients API's overbelasten
    • Zorgt voor tragere performance
    • Verhoogt resourcekosten
    • Ergste geval: systeemuitval (bv. DDoS-aanval)
Azure API Management

Hoe gebruiksquota API's beschermen

  • Beperk aantal calls per periode
    • Voorkomt plotselinge pieken in requests
  • Kan beschermen tegen DDoS-aanvallen
  • Bespaart kosten door overmatig gebruik te voorkomen

Azure API Management

Resourcegebruik meten

Application Insights

  • Je kunt niet verbeteren wat je niet meet

    • Schakel Application Insights in om metrics te volgen (bv. latency, uitschieters)

  • Voorbeeld: 'GET Products'-call

    • Lage cache-hitratio maar veel verkeer
    • Oplossing: cacheduur verhogen (5 -> 30 minuten)

  • Met insights kun je finetunen:

    • Cacheduren
    • Quotadrempels
    • Servicelagen voor beste prijs-prestatie
Azure API Management

Laten we oefenen!

Azure API Management

Preparing Video For Download...