Основы обучения LLM

Концепции больших языковых моделей (LLM)

Vidhi Chugh

AI strategist and ethicist

Где мы находимся?

Изображение, показывающее прогресс обучения на этапе предобучения

Концепции больших языковых моделей (LLM)

Генеративное предобучение

 

  • Обучение с генеративным предобучением

    • Входные данные — токены текста
    • Модель обучается предсказывать токены в наборе данных

 

  • Типы:
    • Предсказание следующего слова
    • Маскированное языковое моделирование
Концепции больших языковых моделей (LLM)

Предсказание следующего слова

  • Метод обучения с учителем
    • Модель обучается на парах «вход–выход»

 

  • Предсказывает следующее слово и генерирует связный текст
  • Улавливает зависимости между словами

 

  • Обучающие данные
    • Пары примеров входа и выхода

Автодополнение поисковой системы

Концепции больших языковых моделей (LLM)

Обучающие данные для предсказания следующего слова

Вход

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Выход

fox

jumps

over

the

lazy

dog

Концепции больших языковых моделей (LLM)

Какое слово связано с pizza больше?

 

  • Больше примеров — точнее предсказание

 

  • Например:
    • I love to eat pizza with _ _ _ _ _ _

 

  • Cheese связан с pizza сильнее, чем любое другое слово

Вероятности связи разных слов со словом «Pizza»

Концепции больших языковых моделей (LLM)

Маскированное языковое моделирование

  • Скрывает выбранное слово

  • Обученная модель предсказывает замаскированное слово

 

  • Исходный текст: «The quick brown fox jumps over the lazy dog.»

  • Текст с маской: «The quick [MASK] fox jumps over the lazy dog.»

 

  • Цель: предсказать пропущенное слово

  • На основе знаний, полученных при обучении

Концепции больших языковых моделей (LLM)

Давайте потренируемся!

Концепции больших языковых моделей (LLM)

Preparing Video For Download...