หลักการออกแบบ Agent ที่ปรับขนาดได้

การสร้างระบบ Agentic ที่รองรับการขยายขนาด

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

ปรับขนาดได้หรือไม่?

ปรับขนาดได้หรือไม่?

ปรับขนาดได้หรือไม่?

ปรับขนาดได้หรือไม่?

เสาหลักของระบบ Agentic ที่ปรับขนาดได้

โครงสร้างพื้นฐานและเครื่องมือที่แข็งแกร่ง

• Compute: ทรัพยากรสำหรับรันโค้ด

 

• Storage: จัดเก็บ State, Log และประวัติ

โครงสร้างพื้นฐานและเครื่องมือที่แข็งแกร่ง

Pipeline การ Deploy ที่เชื่อถือได้

เครื่องมือ Agent ที่ได้รับการยอมรับ

Modularity

ออกแบบระบบให้เป็นส่วนประกอบ อิสระ แยกจากกัน เพื่อประกอบเป็นระบบที่ใหญ่ขึ้น

• รองรับการออกแบบ พัฒนา และดูแลรักษาแบบอิสระ

Modularity

ออกแบบระบบให้เป็นส่วนประกอบ อิสระ แยกจากกัน เพื่อประกอบเป็นระบบที่ใหญ่ขึ้น

• รองรับการออกแบบ พัฒนา และดูแลรักษาแบบอิสระ

Modularity

ออกแบบระบบให้เป็นส่วนประกอบ อิสระ แยกจากกัน เพื่อประกอบเป็นระบบที่ใหญ่ขึ้น

• รองรับการออกแบบ พัฒนา และดูแลรักษาแบบอิสระ

Modularity ใน Agent: Software Modularity

Modularity ใน Agent: Multi-Agent

Modularity ใน Agent: Multi-Agent

ตัวอย่าง: Multi-Agent สำหรับการสนับสนุนลูกค้า

ตัวอย่างจากบทที่ 2

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

การประเมินผลต่อเนื่องและ Feedback Loop

 

• การตรวจสอบ อย่างครอบคลุม

 

การประเมินผลต่อเนื่องและ Feedback Loop

 

• การตรวจสอบ อย่างครอบคลุม
• Metric ที่ใช้บ่อย:
  • อัตราความสำเร็จ
  • Latency
  • ข้อผิดพลาด

 

การประเมินผลต่อเนื่องและ Feedback Loop

 

• การตรวจสอบ อย่างครอบคลุม
• Metric ที่ใช้บ่อย:
  • อัตราความสำเร็จ
  • Latency
  • ข้อผิดพลาด
• เก็บรวบรวม Feedback จากผู้ใช้

 

มาฝึกกันเถอะ!

การสร้างระบบ Agentic ที่รองรับการขยายขนาด