Моделі GPT і тренування LLM

Середній рівень ChatGPT

Alex Banks

Founder & Educator

Походження GPT

На зображенні ліворуч здивований чоловік дивиться на три фіолетові стовпці з підписами GPT-1, GPT-2 і GPT-3 зліва направо, що показують зростання розміру кожної версії

Походження GPT

Ілюстрація: чоловік стоїть і дивиться на овальну форму, що символізує нейрон

Що таке GPT, по складниках

Ілюстрація: розгублений чоловік із знаком питання над головою. Праворуч текст «Generative Pre-trained Transformer», зі стрілкою на «GPT» жирним і підкресленим

Ілюстрація: чоловік пише олівцем у зошиті. Ліворуч слово «Generative»

Ілюстрація: чоловік біжить, за ним тягнуться книжки й ґаджети; праворуч слово «Pre-trained»

Ілюстрація: чоловік трансформується зі стану в стан, над ним слово «Transformer»

Ілюстрація: чоловік із ноутбуком поруч із логотипом ChatGPT

Як тренують LLM?

Ілюстрація: жінка читає книгу поруч із великим роботом; обидва дивляться в книгу

Крок 1 — Попереднє навчання

Великі обсяги низькоякісних інтернет-даних Ілюстрація: жінка тримає кліпборд; діаграма й таблиця з етапами попереднього навчання та даними моделей GPT

Крок 2 — Тонке налаштування

Невеликі обсяги розмовних даних високої якості Ілюстрація: жінка поруч із роботом і прикладами даних діалогу

Крок 3 — RLHF

RLHF = Reinforcement Learning from Human Feedback

Ілюстрація: дві жінки тримають картки із знаками питання; у хмаринках думок «Option A» і «Option B»

Роль ШІ у створенні порівняльних міток

Ілюстрація: жінка показує великий палець угору поруч із роботом; на екранах — три хайку про ШІ. У жінки й робота в хмаринках думок «Ось це!»

Роль ШІ у створенні порівняльних міток

Розмічання — це співпраця людини й машини

Ілюстрація: піктограми людини й робота, з'єднані повзунком; поруч жінка та великий робот у злагоді

Давайте потренуємось!

Середній рівень ChatGPT