Elegantní selhání: Zmírnění rizik

Building Scalable Agentic Systems

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Selhání volání nástrojů

Řešení

 

  • Definování jasných parametrů a způsobu použití

 

  • Validace výstupů nástrojů (unit testování!)

 

  • Ověřovací kontroly při výběru nástroje

 

  • MCP!
Problémy

Selhání volání nástrojů

Building Scalable Agentic Systems

Selhání volání nástrojů – mechanismus opakování

 

  • Externí služby mohou selhat nebo být dočasně pomalé

 

  • Opakování pokusu

    • Exponenciální backoff → postupně se prodlužující intervaly
    • Informujte uživatele o problémech pomocí callbacků

Building Scalable Agentic Systems

Selhání volání nástrojů – cachování

 

  • Výstupy nástrojů jsou cachovány jako záložní řešení

 

  • Vhodné pro: statická data s občasnými aktualizacemi

 

  • Nevhodné pro: nástroje poskytující informace v reálném čase

Cachování

Building Scalable Agentic Systems

Selhání volání nástrojů – správa fronty

 

  • Volání nástrojů mohou být na sobě závislá

 

  • Příklad: letenky musí být zarezervovány před taxíkem

 

  • Neúspěšná volání lze přesunout na konec fronty

 

Správa fronty

Building Scalable Agentic Systems

Autentizace

Ověřování v IT

 

  • Nástroje mohou vyžadovat přístup a oprávnění k soukromým datům

 

  • Příklad: agent IT podpory
    • Povolený přístup: systémové protokoly
    • Zakázaný přístup: hesla, poloha atd.
Building Scalable Agentic Systems

Autentizace – jedinečné identifikátory agentů

Identifikátory agentů

Building Scalable Agentic Systems

Autentizace – izolovaná prostředí

Izolovaná prostředí agentů

Building Scalable Agentic Systems

Autentizace – guardrails a omezení akcí

Omezení a zábrany akcí

Building Scalable Agentic Systems

Pojďme si procvičit!

Building Scalable Agentic Systems

Preparing Video For Download...