เทคนิคการเรียนรู้

แนวคิดของ Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

ตอนนี้อยู่ที่ไหนแล้ว?

ก้าวข้ามข้อจำกัดด้านข้อมูล

 

• Fine-tuning: การฝึกโมเดลที่ผ่านการ pre-train แล้วสำหรับงานเฉพาะ

 

• แล้วถ้ามีข้อมูลที่มีป้ายกำกับน้อยมากหรือไม่มีเลยจะทำอย่างไร?

 

• N-shot learning: zero-shot, few-shot และ multi-shot

Transfer learning

• เรียนรู้จากงานหนึ่งแล้วถ่ายโอนไปยังงานที่เกี่ยวข้อง
• การถ่ายโอนความรู้จากเปียโนไปยังกีตาร์
  • การอ่านโน้ตดนตรี
  • ความเข้าใจด้านจังหวะ
  • การเข้าใจแนวคิดทางดนตรี

• N-shot learning
  • Zero-shot — ไม่มีข้อมูลเฉพาะงาน
  • Few-shot — มีข้อมูลเฉพาะงานน้อย
  • Multi-shot — มีข้อมูลฝึกมากขึ้นตามสมควร

Zero-shot learning

• ไม่ต้องฝึกโดยตรง
• ใช้ความเข้าใจภาษาและบริบท
• สรุปผลได้โดยไม่ต้องมีตัวอย่างก่อนหน้า

¹ Freepik

Few-shot learning

• เรียนรู้งานใหม่จากตัวอย่างเพียงไม่กี่ชิ้น

• One-shot learning: fine-tune จากตัวอย่างเดียว

• ใช้ความรู้เดิมตอบคำถามใหม่

Multi-shot learning

• ต้องการตัวอย่างมากกว่า few-shot

 

• งานก่อนหน้าบวกกับตัวอย่างใหม่

 

• ตัวอย่างเช่น โมเดลที่ฝึกด้วยภาพ Golden Retriever

¹ Freepik

Multi-shot learning

• ผลลัพธ์ของโมเดล: Labrador Retriever

 

• ประหยัดเวลาในการรวบรวมและติดป้ายกำกับข้อมูล

 

• ความแม่นยำไม่ลดลง

¹ Freepik

สิ่งที่เรียนรู้มาจนถึงตอนนี้

• กระบวนการเตรียมข้อมูล

 

• Fine-tuning

 

• เทคนิค N-shot learning

 

• ถัดไป: pre-training

มาฝึกกันเถอะ!

แนวคิดของ Large Language Models (LLMs)