การฝึกโมเดล

แนวคิด Generative AI

Daniel Tedesco

Data Lead, Google

เลือกวิธีการฝึกให้เหมาะสม

ภาพเครื่องบินและรถยนต์

  1. ฮาร์ดแวร์
  2. เวลา
    • ขนาดชุดข้อมูล
    • ความซับซ้อนของโมเดล
    • จำนวนรอบการฝึก
  3. ต้นทุน
แนวคิด Generative AI

ก้าวสู่เทคนิคขั้นสูง

  • โมเดล generative AI พื้นฐานเป็นจุดเริ่มต้น
  • เทคนิคขั้นสูงช่วยปรับให้เหมาะกับบริบทเฉพาะ

เทคนิคขั้นสูงที่สำคัญ:

  1. Transfer learning และการ fine-tuning
  2. RLHF
  3. Custom embeddings

ภาพนักศึกษาในพิธีรับปริญญา

แนวคิด Generative AI

จากแมวสู่สิงโต

  • Transfer learning ถ่ายโอนความรู้จากงานหนึ่งไปยังอีกงาน
  • Fine-tuning คือ transfer learning ประเภทหนึ่งสำหรับชุดข้อมูลขนาดเล็ก

โมเดลเรียนรู้จากภาพสิงโต พร้อมคำพูดว่า "Still furry, four paws... I got it!" แล้วสร้างภาพสิงโตออกมา

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
แนวคิด Generative AI

ฟีดแบ็กของคุณไปที่ไหน?

ภาพอินเทอร์เฟซ Google Bard ที่แสดงปุ่มกดถูกใจและไม่ถูกใจ

1 Google Bard, 2023
แนวคิด Generative AI

กดถูกใจเพื่อคำตอบที่ดีกว่า

คำตอบหลายรายการที่ได้รับการกดถูกใจและไม่ถูกใจ ส่งไปยังหุ่นยนต์ที่พูดว่า "Okay, now I know what kind of answers the humans like"

1 Google Bard, 2023
แนวคิด Generative AI

Embeddings เปรียบเหมือนลายนิ้วมือ

  • คล้ายกับการจดจำลายนิ้วมือ
  • เป็นการแทนข้อมูลที่ไม่ซ้ำกันของแต่ละเอนทิตี
  • จับความหมาย บริบท และความสัมพันธ์ในรูปแบบกระชับ

ภาพลายนิ้วมือหลายรูปแบบ

1 Wikimedia commons
แนวคิด Generative AI

การสร้าง Embedding จาก Dan

ภาพถ่ายบุคคลของ Daniel Tedesco หลายใบที่ป้อนให้กับ generative AI

1 Daniel Tedesco, 2023
แนวคิด Generative AI

Dan ที่ถูก Embed แล้ว

โมเดลสร้างภาพหน้าสไตล์ต่าง ๆ ของ Daniel Tedesco

1 Daniel Tedesco portraits from vana.com
แนวคิด Generative AI

มาฝึกกันเถอะ!

แนวคิด Generative AI

Preparing Video For Download...