Prompt engineering

แนวคิด LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

วงจรชีวิต LLM: Prompt engineering

ภาพรวมของขั้นตอนในวงจรชีวิตแอปพลิเคชัน LLM

แนวคิด LLMOps

วงจรการพัฒนา

ภาพรวมเบื้องต้นของวงจรการพัฒนา ซึ่งจะได้รับการปรับปรุงในบทนี้

แนวคิด LLMOps

ทำไม Prompt engineering จึงสำคัญ?

 

การ์ตูนน่ารักสอนเรื่อง prompt

 

 

  • เพิ่มประสิทธิภาพ
  • ควบคุม output
  • หลีกเลี่ยงอคติและภาพหลอน
แนวคิด LLMOps

องค์ประกอบของ prompt

 

 

  1. คำสั่ง (Instruction)
  2. ตัวอย่าง / บริบท
  3. ข้อมูล input
  4. ตัวบ่งชี้ output

ตัวอย่าง prompt ที่แสดงคำสั่ง ตัวอย่าง input และ output

แนวคิด LLMOps

ค้นหา prompt ที่ดีที่สุด

 

 

ภาพการ์ตูนสองตัวกำลังเล่นในสนามเด็กเล่น

 

ทดลองปรับ:

  • การตั้งค่า LLM เช่น temperature หรือ max tokens
  • In-context learning และรูปแบบการออกแบบ prompt อื่น ๆ

 

ใช้ playground เพื่อทดสอบ!

แนวคิด LLMOps

การจัดการ prompt

 

 

การ์ตูนน่ารักกำลังจัดเก็บ prompt ในกล่องเอกสาร

  • สำคัญต่อประสิทธิภาพ การทำซ้ำได้ และการทำงานร่วมกัน
  • สิ่งที่ควรติดตาม:
    • Prompt
    • Output
    • โมเดลและการตั้งค่า
  • ใช้ prompt manager หรือ version control
  • เริ่มรวบรวมคู่ input-output ที่ดีสำหรับการประเมินผล
แนวคิด LLMOps

Prompt template เพื่อการนำกลับมาใช้ใหม่

ภาพ prompt ทางซ้าย และ prompt template ทางขวา แสดงความแตกต่างระหว่างทั้งสอง

แนวคิด LLMOps

วงจรการพัฒนา

ภาพรวมเบื้องต้นของวงจรการพัฒนา ซึ่งจะได้รับการปรับปรุงในบทนี้

แนวคิด LLMOps

วงจรการพัฒนา

วงจรการพัฒนาที่เพิ่มกิจกรรม prompt engineering เข้าไป

แนวคิด LLMOps

มาฝึกกันเถอะ!

แนวคิด LLMOps

Preparing Video For Download...