Gestire gli errori: mitigare i rischi

Creare sistemi agentici scalabili

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Errori nelle chiamate agli strumenti

Soluzioni

 

  • Definire parametri e uso chiari

 

  • Validazione output degli strumenti (unit test!)

 

  • Verifiche sulla scelta degli strumenti

 

  • MCP!
Problemi

errori_chiamate_strumento.png

Creare sistemi agentici scalabili

Errori nelle chiamate - meccanismo di retry

 

  • I servizi esterni possono guastarsi o essere temporaneamente lenti

 

  • Ritenta

    • Exponential backoff → riduci gradualmente i tentativi
    • Avvisa l'utente dei problemi con callback

Creare sistemi agentici scalabili

Errori nelle chiamate - caching

 

  • Gli output degli strumenti sono messi in cache come fallback

 

  • Utile per: dati statici con aggiornamenti rari

 

  • Non adatto a: strumenti con info in tempo reale

Caching

Creare sistemi agentici scalabili

Errori nelle chiamate - gestione della coda

 

  • Le chiamate agli strumenti possono essere dipendenti l'una dall'altra

 

  • Esempio: prima si prenota il volo, poi il taxi

 

  • Le chiamate non riuscite possono essere spostate in coda

 

Gestione della coda

Creare sistemi agentici scalabili

Autenticazione

Autenticazione IT

 

  • Gli strumenti possono richiedere accessi e permessi a dati privati

 

  • Esempio: helpdesk IT
    • Accesso consentito: log di sistema
    • Accesso bloccato: password, posizione, ecc.
Creare sistemi agentici scalabili

Autenticazione - identificatori univoci degli agenti

ID agenti univoci

Creare sistemi agentici scalabili

Autenticazione - ambienti isolati

Ambienti isolati

Creare sistemi agentici scalabili

Autenticazione - guardrail e restrizioni d'azione

Limitazioni

Creare sistemi agentici scalabili

Ayo berlatih!

Creare sistemi agentici scalabili

Preparing Video For Download...