Cómo escalan (y fallan) los agentes de IA

Creación de sistemas agentic escalables

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Un inicio con confianza

confident_start1.jpg

Creación de sistemas agentic escalables

Un inicio con confianza

confident_start2.jpg

Creación de sistemas agentic escalables

Un inicio con confianza

confident_start3.jpg

Creación de sistemas agentic escalables

Un inicio con confianza

confident_start4.jpg

Creación de sistemas agentic escalables

Un inicio con confianza

confident_start5.jpg

Creación de sistemas agentic escalables

Un inicio con confianza

confident_start6.jpg

Creación de sistemas agentic escalables

Problemas al escalar

trouble_at_scale.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 1 - Evaluación frágil

fragile_evaluation1.jpg

1 nip over = argot británico para una visita rápida
Creación de sistemas agentic escalables

Modo de fallo n.º 1 - Evaluación frágil

1 nip over = argot británico para una visita rápida
Creación de sistemas agentic escalables

Modo de fallo n.º 1 - Evaluación frágil

fragile_evaluation3.jpg

1 nip over = argot británico para una visita rápida
Creación de sistemas agentic escalables

Modo de fallo n.º 2 - Deriva de intención

intent_drift1.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 2 - Deriva de intención

intent_drift2.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 3 - Bucles de retroalimentación indeseables

ratings.png

Votos positivos → chistes, sarcasmo, etc.

Resultado → se resta prioridad a la verdad

feedback_loop.png

Define métricas claras para todos los aspectos del rendimiento

  • Veracidad
  • Claridad
  • Tono
Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks1.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks2.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks3.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks4.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks5.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 4 - Cuellos de botella de latencia

latency_bottlenecks6.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 5 - Explosión de costes

latency_bottlenecks6.jpg

Creación de sistemas agentic escalables

Modo de fallo n.º 5 - Explosión de costes

usage_limits.jpg

Creación de sistemas agentic escalables

¡Vamos a practicar!

Creación de sistemas agentic escalables

Preparing Video For Download...