Chains และ Agents

แนวคิด LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

วงจรชีวิต LLM: Chains และ Agents

จาก prompt สู่แอปพลิเคชัน

 

• สิ่งที่ต้องมีสำหรับ template นี้:
  • ตัวอย่าง
  • Input
• ขั้นตอนที่ต้องผ่าน:
  1. รับ input
  2. ค้นหาตัวอย่าง
  3. สร้าง prompt
  4. ดึง output
  5. แปลง output

Chain ที่ใช้ template ของเรา

 

ทำไมต้องใช้ Chains

 

 

 

• พัฒนาแอปพลิเคชันที่ซับซ้อนได้
• ออกแบบแบบ modular เพิ่มความสามารถในการขยายและประสิทธิภาพ
• เปิดโอกาสในการปรับแต่งได้อย่างหลากหลาย

Agents

 

 

 

• Agent ประกอบด้วย:
  • หลาย action (หรือ tool)
  • LLM ที่ตัดสินใจว่าจะใช้ action ใด

 

• เหมาะใช้เมื่อ:
  • มี action จำนวนมาก
  • ไม่ทราบลำดับขั้นตอนที่เหมาะสม
  • ไม่แน่ใจเกี่ยวกับ input

Agents

Agents

Agents

ความแตกต่างระหว่าง Chains และ Agents

 

 

	Chains 🔗	Agents 🤖
ลักษณะ	กำหนดตายตัว	ปรับตัวได้
ความซับซ้อน	ต่ำ	สูง
ความยืดหยุ่น	ต่ำ	สูง
ความเสี่ยง	ต่ำกว่า (คาดการณ์ได้)	สูงกว่า (ปรับตัวได้)

วงจรการพัฒนา

วงจรการพัฒนา

วงจรการพัฒนา

มาฝึกกันเถอะ!

แนวคิด LLMOps