Att misslyckas kontrollerat: hantera risker

Bygga skalbara agentbaserade system

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Fel vid verktygsanrop

Lösningar

 

  • Tydliga parametrar och användningsregler

 

  • Validering av verktygsutdata (enhetstestning!)

 

  • Verifieringskontroller av verktygsval

 

  • MCP!
Problem

Fel vid verktygsanrop

Bygga skalbara agentbaserade system

Fel vid verktygsanrop – mekanism för återförsök

 

  • Externa tjänster kan sluta fungera eller bli tillfälligt långsamma

 

  • Återförsök

    • Exponentiell backoff → successivt glesare återförsök
    • Informera användare om problem via callbacks

Bygga skalbara agentbaserade system

Fel vid verktygsanrop – caching

 

  • Verktygsutdata cachas som reservalternativ

 

  • Fungerar för: statisk data som uppdateras sällan

 

  • Fungerar inte för: verktyg som levererar realtidsinformation

Caching

Bygga skalbara agentbaserade system

Fel vid verktygsanrop – köhantering

 

  • Verktygsanrop kan vara beroende av varandra

 

  • Exempel: flyg måste bokas innan taxi

 

  • Misslyckade verktygsanrop kan flyttas ned i kön

 

Köhantering

Bygga skalbara agentbaserade system

Autentisering

Autentisering IT

 

  • Verktyg kan kräva åtkomst och behörigheter till privat data

 

  • Exempel: IT-supportagent
    • Tillåten åtkomst: systemloggar
    • Blockerad åtkomst: lösenord, plats m.m.
Bygga skalbara agentbaserade system

Autentisering – unika agentidentifierare

Unika agentidentifierare

Bygga skalbara agentbaserade system

Autentisering – isolerade miljöer

Isolerade miljöer

Bygga skalbara agentbaserade system

Autentisering – skyddsmekanismer och åtgärdsbegränsningar

restrictions.jpg

Bygga skalbara agentbaserade system

Nu kör vi en övning!

Bygga skalbara agentbaserade system

Preparing Video For Download...