การทดสอบ

แนวคิด LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

วงจรชีวิต LLM: การทดสอบ

ภาพรวมของขั้นตอนวงจรชีวิตแอปพลิเคชัน LLM

แนวคิด LLMOps

ทำไมต้องทดสอบ?

 

ภาพการ์ตูนสองตัวถือป้ายโชว์นิ้วโป้งขึ้นและโป้งลง

 

 

  • LLM เกิดข้อผิดพลาดได้
  • การทดสอบมีความสำคัญในการประเมินความพร้อมของแอปพลิเคชันก่อนนำไปใช้งาน
  • เราจะเน้นการประเมิน ผลลัพธ์
แนวคิด LLMOps

การทดสอบ ML แบบดั้งเดิมเทียบกับแอปพลิเคชัน LLM

Machine learning แบบมีผู้สอน (supervised) แบบดั้งเดิม:

  • ต้องการข้อมูล train และ test ที่มีป้ายกำกับ
  • เมตริกที่เน้นความแม่นยำหรือความใกล้เคียงกับเป้าหมาย

ภาพชุดข้อมูล train และ test ของ ML แบบดั้งเดิม

แอปพลิเคชัน LLM:

  • ต้องการข้อมูล test โดยไม่จำเป็นต้องมีป้ายกำกับ
  • วัดคุณภาพของผลลัพธ์ด้วยเมตริก     หลากหลายประเภท

ภาพชุดข้อมูล train และ test ของแอปพลิเคชัน LLM

แนวคิด LLMOps

ขั้นตอนที่ 1: สร้างชุดข้อมูล test

 

ภาพการ์ตูนตัวละครกำลังรวบรวมข้อมูล

 

 

  • ควรสร้างชุดข้อมูล test ให้เสร็จสิ้นก่อน
  • ข้อมูล test ต้องสะท้อนสถานการณ์จริงให้มากที่สุด
  • มีเครื่องมือหลายอย่างที่ช่วยในกระบวนการนี้
แนวคิด LLMOps

ขั้นตอนที่ 2: เลือกเมตริก

หากมีคำตอบที่ถูกต้อง...

  • ... ให้ใช้เมตริก machine learning ตัวอย่างเช่น:
    • ความแม่นยำ

แผนผังชี้ไปที่ "ใช้เมตริก ML"

แนวคิด LLMOps

ขั้นตอนที่ 2: เลือกเมตริก

หากมีคำตอบอ้างอิง...

  • ... ให้ใช้วิธีทางสถิติ
  • ... ให้ใช้วิธีที่อิงโมเดล ตัวอย่างเช่น:
    • LLM judges

แผนผังชี้ไปที่ "ใช้เมตริกเปรียบเทียบข้อความ"

แนวคิด LLMOps

ขั้นตอนที่ 2: เลือกเมตริก

หากมีข้อมูล feedback จากมนุษย์...

  • ... ให้มนุษย์ให้คะแนนข้อความ ตัวอย่างเช่น:
    • ให้คะแนนคุณภาพ
    • ให้คะแนนความเกี่ยวข้อง
    • ให้คะแนนความสอดคล้อง
  • ... ให้ใช้วิธีที่อิงโมเดล ตัวอย่างเช่น:
    • พยากรณ์คะแนนจาก feedback ในอดีต
    • ถาม LLM judge ว่านำ feedback ไปปรับใช้หรือไม่

แผนผังชี้ไปที่ "ใช้เมตริกคะแนน feedback"

แนวคิด LLMOps

ขั้นตอนที่ 2: เลือกเมตริก

หากไม่มี feedback จากมนุษย์...

  • ... ให้ใช้เมตริกแบบ unsupervised ตัวอย่างเช่น:
    • ความสอดคล้อง
    • ความคล่องแคล่ว
    • ความหลากหลาย

แผนผังชี้ไปที่ "ใช้เมตริกแบบ unsupervised"

แนวคิด LLMOps

ขั้นตอนที่ 3: กำหนดเมตริกรองเพิ่มเติม

 

 

คุณลักษณะของผลลัพธ์:

  • 🎭 อคติ
  • ☠ ความเป็นพิษ
  • 🤝 ความเป็นประโยชน์

 

 

คุณลักษณะด้านการดำเนินงาน:

  • ⏱ ความหน่วง
  • 💰 ต้นทุนรวมที่เกิดขึ้น
  • 💻 การใช้หน่วยความจำ
แนวคิด LLMOps

วงจรการพัฒนา

วงจรการพัฒนาที่เพิ่มขั้นตอน fine-tuning

แนวคิด LLMOps

วงจรการพัฒนา

วงจรการพัฒนาที่เพิ่มขั้นตอนการทดสอบ

แนวคิด LLMOps

วงจรการพัฒนา

วงจรการพัฒนาที่เพิ่มขั้นตอนการทดสอบ

แนวคิด LLMOps

วงจรการพัฒนา

วงจรการพัฒนาที่เพิ่มขั้นตอนการนำไปใช้งาน

แนวคิด LLMOps

มาฝึกกันเถอะ!

แนวคิด LLMOps

Preparing Video For Download...