Échecs maîtrisés : atténuer les risques

Concevoir des systèmes agentiques évolutifs

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Défaillances d'appels d'outils

Solutions

 

  • Définir des paramètres et un usage clairs

 

  • Validation de la sortie de l'outil (tests unitaires !)

 

  • Vérifications du choix d'outil

 

  • MCP !
Problèmes

Défaillances d'appels d'outils

Concevoir des systèmes agentiques évolutifs

Défaillances d'appels d'outils – mécanisme de relance

 

  • Des services externes peuvent tomber en panne ou être lents temporairement

 

  • Relancer

    • Backoff exponentiel → tentatives de moins en moins fréquentes
    • Informer les utilisateurs des problèmes via des rappels

Concevoir des systèmes agentiques évolutifs

Défaillances d'appels d'outils – mise en cache

 

  • Mettre en cache les sorties d'outils comme solution de repli

 

  • Utile pour : données statiques mises à jour rarement

 

  • Inadéquat pour : outils fournissant de l'information en temps réel

Mise en cache

Concevoir des systèmes agentiques évolutifs

Défaillances d'appels d'outils – gestion de la file

 

  • Les appels d'outils peuvent dépendre les uns des autres

 

  • Exemple : réserver le vol avant le taxi

 

  • Les appels infructueux peuvent être repoussés dans la file

 

Gestion de file

Concevoir des systèmes agentiques évolutifs

Authentification

Authentification TI

 

  • Les outils peuvent exiger un accès et des autorisations à des données privées

 

  • Exemple : agent de soutien TI
    • Accès autorisé : journaux système
    • Accès bloqué : mots de passe, emplacement, etc.
Concevoir des systèmes agentiques évolutifs

Authentification – identifiants d'agent uniques

Identifiants d'agent uniques

Concevoir des systèmes agentiques évolutifs

Authentification – environnements isolés

Environnements isolés

Concevoir des systèmes agentiques évolutifs

Authentification – garde-fous et restrictions d'actions

Garde-fous et restrictions d'action

Concevoir des systèmes agentiques évolutifs

Passons à la pratique !

Concevoir des systèmes agentiques évolutifs

Preparing Video For Download...