Abordagens de fine-tuning

Introdução a LLMs em Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Fine-tuning

 

Caso de uso de fine-tuning de LLMs em química

Introdução a LLMs em Python

Fine-tuning completo

 

  • Todos os pesos do modelo são atualizados
  • Computacionalmente caro

 

Full fine-tuning

Introdução a LLMs em Python

Fine-tuning parcial

 

  • Algumas camadas ficam fixas
  • Só camadas específicas da tarefa são atualizadas

 

Partial fine-tuning

Introdução a LLMs em Python

Transfer learning

 

  • Um modelo pré-treinado é adaptado para uma tarefa diferente porém relacionada
  • Reaproveita conhecimento de um domínio para outro relacionado

O paradigma de transfer learning

Introdução a LLMs em Python

Aprendizado N-shot

  • Zero-shot learning: sem exemplos
  • One-shot learning: um exemplo
  • Few-shot learning: alguns exemplos
Introdução a LLMs em Python

Aprendizado one-shot

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])

POSITIVE
Introdução a LLMs em Python

Vamos praticar!

Introdução a LLMs em Python

Preparing Video For Download...