โมเดล GPT และการฝึก LLMs

ChatGPT ระดับกลาง

Alex Banks

Founder & Educator

จุดกำเนิดของ GPT

ภาพชายแปลกใจมองแท่งสีม่วง 3 แท่งที่มีขนาดเพิ่มขึ้น มีป้ายกำกับ GPT-1, GPT-2 และ GPT-3 จากซ้ายไปขวา แสดงถึงการเติบโตของขนาดในแต่ละเวอร์ชัน

จุดกำเนิดของ GPT

ภาพประกอบแสดงชายยืนมองรูปวงรี ซึ่งแทนเซลล์ประสาท

ถอดรหัส GPT

ภาพประกอบแสดงชายที่ดูสับสนพร้อมเครื่องหมายคำถามเหนือหัว ด้านขวามีข้อความ 'Generative Pre-trained Transformer' พร้อมลูกศรชี้ไปที่คำว่า 'GPT' ที่เป็นตัวหนาและขีดเส้นใต้

ภาพประกอบแสดงชายกำลังเขียนในสมุดบันทึกด้วยดินสอ ด้านซ้ายมีคำว่า 'Generative'

ภาพประกอบชายวิ่งพร้อมหนังสือและอุปกรณ์อิเล็กทรอนิกส์ตามหลัง ด้านขวามีคำว่า 'Pre-trained'

ภาพประกอบชายที่กำลังเปลี่ยนแปลงจากสภาพหนึ่งไปอีกสภาพ พร้อมคำว่า 'Transformer' อยู่ด้านบน

ภาพประกอบชายนั่งใช้แล็ปท็อป ข้างๆ มีโลโก้ ChatGPT

การฝึก LLMs ทำอย่างไร?

ภาพประกอบหญิงยืนอ่านหนังสือข้างหุ่นยนต์ขนาดใหญ่ ทั้งคู่มองหนังสืออยู่ด้วยกัน

ขั้นตอนที่ 1 - Pre-training

ข้อมูลอินเทอร์เน็ตปริมาณมากแต่คุณภาพต่ำ ภาพประกอบหญิงถือคลิปบอร์ด พร้อมแผนภูมิและตารางที่แสดงรายละเอียดกระบวนการ pre-training และข้อมูลของโมเดล GPT

ขั้นตอนที่ 2 - Fine-tuning

ข้อมูลบทสนทนาคุณภาพสูงแต่ปริมาณน้อย ภาพประกอบหญิงยืนข้างหุ่นยนต์ พร้อมตัวอย่างข้อมูลบทสนทนา

ขั้นตอนที่ 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

ภาพประกอบหญิงสองคนถือการ์ดเครื่องหมายคำถาม โดยมีฟองคิดที่เขียนว่า 'Option A' และ 'Option B' อยู่เหนือหัว

บทบาทของ AI ในการสร้าง Comparison Labels

ภาพประกอบหญิงยกนิ้วโป้งข้างหุ่นยนต์ โดยมีไฮกุเกี่ยวกับ AI แสดงบนหน้าจอสามจอ ทั้งหญิงและหุ่นยนต์ต่างมีฟองคิดที่เขียนว่า 'This one!'

บทบาทของ AI ในการสร้าง Comparison Labels

การติดป้ายกำกับเป็นความร่วมมือระหว่างมนุษย์และเครื่องจักร

ภาพประกอบไอคอนบุคคลและไอคอนหุ่นยนต์เชื่อมต่อกันด้วยแถบเลื่อน โดยมีหญิงและหุ่นยนต์ขนาดใหญ่ยืนข้างๆ อย่างกลมกลืน

มาฝึกกันเถอะ!

ChatGPT ระดับกลาง