Будівельні блоки для тренування LLM

Концепції Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

Де ми зараз?

Зображення, що показує прогрес навчання як Pre-training

Концепції Large Language Models (LLMs)

Генеративне попереднє навчання

 

  • Навчаються за допомогою генеративного попереднього навчання

    • Вхідні дані — текстові токени
    • Модель вчиться передбачати токени в наборі даних

 

  • Типи:
    • Передбачення наступного слова
    • Масковане моделювання мови
Концепції Large Language Models (LLMs)

Передбачення наступного слова

  • Метод навчання з учителем
    • Модель навчається на парах «вхід–вихід»

 

  • Передбачає наступне слово та генерує зв'язний текст
  • Уловлює залежності між словами

 

  • Навчальні дані
    • Пари прикладів входу та виходу

Автодоповнення в пошуковій системі

Концепції Large Language Models (LLMs)

Навчальні дані для передбачення наступного слова

Вхід

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Вихід

fox

jumps

over

the

lazy

dog

Концепції Large Language Models (LLMs)

Яке слово більше пов'язане з піцою?

 

  • Більше прикладів = кращі передбачення

 

  • Наприклад:
    • I love to eat pizza with _ _ _ _ _ _

 

  • Сир більш пов'язаний з піцою, ніж інші слова

Ймовірності зв'язку різних слів зі словом "Pizza"

Концепції Large Language Models (LLMs)

Масковане моделювання мови

  • Приховує вибране слово

  • Навчена модель передбачає замасковане слово

 

  • Оригінальний текст: "The quick brown fox jumps over the lazy dog."

  • Маскований текст: "The quick [MASK] fox jumps over the lazy dog."

 

  • Мета: передбачити пропущене слово

  • На основі знань із навчальних даних

Концепції Large Language Models (LLMs)

Давайте потренуємось!

Концепції Large Language Models (LLMs)

Preparing Video For Download...