Soepel falen: risico’s beperken

Schaalbare Agentic-systemen bouwen

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Mislukte tool-calls

Oplossingen

 

  • Duidelijke parameters en gebruik definiëren

 

  • Validatie van tool-output (unit tests!)

 

  • Controles bij toolselectie

 

  • MCP!
Problemen

mislukte_tool_calls.png

Schaalbare Agentic-systemen bouwen

Mislukte tool-calls - retrymechanisme

 

  • Externe services kunnen uitvallen of tijdelijk traag zijn

 

  • Opnieuw proberen

    • Exponentiële backoff → geleidelijk minder pogingen
    • Informeer gebruikers via callbacks

Schaalbare Agentic-systemen bouwen

Mislukte tool-calls - caching

 

  • Tool-outputs worden gecachet als fallback

 

  • Werkt voor: statische data met zeldzame updates

 

  • Werkt niet voor: tools met realtime-informatie

caching.png

Schaalbare Agentic-systemen bouwen

Mislukte tool-calls - wachtrijbeheer

 

  • Tool-calls kunnen afhankelijk zijn van elkaar

 

  • Voorbeeld: vlucht boeken vóór de taxi

 

  • Mislukte tool-calls kun je omlaag in de wachtrij zetten

 

wachtrijbeheer.png

Schaalbare Agentic-systemen bouwen

Authenticatie

authenticatie_it.png

 

  • Tools kunnen toegang en rechten vereisen tot privégegevens

 

  • Voorbeeld: IT-supportmedewerker
    • Geldige toegang: systeemlogs
    • Geblokkeerd: wachtwoorden, locatie, enz.
Schaalbare Agentic-systemen bouwen

Authenticatie - unieke agent-ID’s

unieke_agent_ids0.jpg

Schaalbare Agentic-systemen bouwen

Authenticatie - geïsoleerde omgevingen

geïsoleerde_omgevingen.jpg

Schaalbare Agentic-systemen bouwen

Authenticatie - guardrails en actiebeperkingen

beperkingen.jpg

Schaalbare Agentic-systemen bouwen

Laten we oefenen!

Schaalbare Agentic-systemen bouwen

Preparing Video For Download...