การล้มเหลวอย่างมีระบบ: การลดความเสี่ยง

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

ความล้มเหลวของการเรียก tool

แนวทางแก้ไข

 

  • กำหนด parameters และการใช้งานให้ชัดเจน

 

  • การตรวจสอบผลลัพธ์ของ tool (unit testing!)

 

  • ตรวจสอบการเลือก tool

 

  • MCP!
ปัญหา

ความล้มเหลวของการเรียก tool

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

ความล้มเหลวของการเรียก tool - กลไก retry

 

  • บริการภายนอกอาจ หยุดทำงาน หรือ ช้าลง ชั่วคราว

 

  • Retry

    • Exponential backoff → ลดความถี่การ retry ลงเรื่อยๆ
    • แจ้งผู้ใช้เมื่อเกิดปัญหาผ่าน callbacks

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

ความล้มเหลวของการเรียก tool - การ cache

 

  • ผลลัพธ์ของ tool ถูก cache ไว้เป็น fallback

 

  • เหมาะสำหรับ: ข้อมูลแบบ static ที่อัปเดตไม่บ่อย

 

  • ไม่เหมาะสำหรับ: tool ที่ให้ข้อมูลแบบ real-time

การ cache

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

ความล้มเหลวของการเรียก tool - การจัดการคิว

 

  • การเรียก tool อาจ พึ่งพา ซึ่งกันและกัน

 

  • ตัวอย่าง: ต้องจองเที่ยวบินก่อนถึงจะจองแท็กซี่ได้

 

  • การเรียก tool ที่ไม่สำเร็จสามารถเลื่อนไปรอในคิวได้

 

การจัดการคิว

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

การยืนยันตัวตน

การยืนยันตัวตนด้าน IT

 

  • tool อาจต้องการ สิทธิ์เข้าถึง ข้อมูล ส่วนตัว

 

  • ตัวอย่าง: agent สนับสนุนด้าน IT
    • เข้าถึงได้: system logs
    • ถูกบล็อก: รหัสผ่าน, ตำแหน่ง ฯลฯ
การสร้างระบบ Agentic ที่รองรับการขยายขนาด

การยืนยันตัวตน - ตัวระบุเฉพาะของ agent

agent_ids0.jpg

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

การยืนยันตัวตน - สภาพแวดล้อมแบบแยกอิสระ

agent_ids.jpg

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

การยืนยันตัวตน - guardrails และการจำกัดการกระทำ

restrictions.jpg

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

มาฝึกกันเถอะ!

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

Preparing Video For Download...