Подходы к дообучению

Введение в LLM на Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Дообучение

 

Пример дообучения LLM в химии

Введение в LLM на Python

Полное дообучение

 

  • Обновляются все веса модели
  • Требует значительных вычислительных ресурсов

 

Полное дообучение

Введение в LLM на Python

Частичное дообучение

 

  • Часть слоёв заморожена
  • Обновляются только слои, специфичные для задачи

 

Частичное дообучение

Введение в LLM на Python

Трансферное обучение

 

  • Предобученная модель адаптируется к смежной задаче
  • Знания из одной предметной области переносятся в другую

Парадигма трансферного обучения

Введение в LLM на Python

N-shot learning

  • Zero-shot learning: без примеров
  • One-shot learning: один пример
  • Few-shot learning: несколько примеров
Введение в LLM на Python

One-shot learning

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])

POSITIVE
Введение в LLM на Python

Давайте потренируемся!

Введение в LLM на Python

Preparing Video For Download...