Échouer brillamment : atténuer les risques

Concevoir des systèmes agentiques évolutifs

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Échecs des appels d’outil

Solutions
  • Définir des paramètres et une utilisation clairs
  • Valider le résultat de l’outil (tester les unités !)
  • Contrôler la sélection de l’outil
  • MCP !
Problèmes

tool_call_failures.png

Concevoir des systèmes agentiques évolutifs

Échecs d’appel d’outil : mécanisme de nouvelle tentative

  • Les services externes peuvent tomber en panne ou être ralentis

  • Réessayer

    • Backoff exponentiel → réduction progressive des tentatives
    • Informer les utilisateurs des problèmes à l’aide des fonctions de rappel

Concevoir des systèmes agentiques évolutifs

Échecs d’appel d’outil : mise en cache

  • Les résultats de l’outil sont mis en cache comme fonction de repli
  • Convient pour : Données statiques avec mises à jour peu fréquentes
  • Ne convient pas pour : outils fournissant des informations en temps réel

caching.png

Concevoir des systèmes agentiques évolutifs

Échecs des appels d’outil : gestion de la file d’attente

  • Les appels d’outil peuvent dépendre les uns des autres
  • Exemple : les vols doivent être réservés avant le taxi
  • Les appels d’outil infructueux peuvent être déplacés plus bas dans la file d’attente

queue_management.png

Concevoir des systèmes agentiques évolutifs

Authentification

authentication_it.png

  • Les outils peuvent nécessiter des autorisations et un accès aux données privées
  • Exemple : Agent de support informatique
    • Accès valide : journaux système
    • Accès restreint : mots de passe, localisation, etc.
Concevoir des systèmes agentiques évolutifs

Authentification : identifiants uniques des agents

agent_ids0.jpg

Concevoir des systèmes agentiques évolutifs

Authentification : environnements isolés

agent_ids.jpg

Concevoir des systèmes agentiques évolutifs

Authentification : mesures de protection et restrictions

restrictions.jpg

Concevoir des systèmes agentiques évolutifs

Passons à la pratique !

Concevoir des systèmes agentiques évolutifs

Preparing Video For Download...