Abordări de fine-tuning

Introducere în LLM-uri cu Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Fine-tuning

 

Caz de utilizare a fine-tuning-ului LLM în chimie

Introducere în LLM-uri cu Python

Fine-tuning complet

 

  • Toți parametrii modelului sunt actualizați
  • Costisitor din punct de vedere computațional

 

Fine-tuning complet

Introducere în LLM-uri cu Python

Fine-tuning parțial

 

  • Unele straturi sunt înghețate
  • Doar straturile specifice sarcinii sunt actualizate

 

Fine-tuning parțial

Introducere în LLM-uri cu Python

Transfer learning

 

  • Un model pre-antrenat este adaptat la o sarcină diferită, dar înrudită
  • Valorifică cunoștințele dintr-un domeniu pentru un domeniu înrudit

Paradigma transfer learning

Introducere în LLM-uri cu Python

Învățare N-shot

  • Zero-shot learning: fără exemple
  • One-shot learning: un singur exemplu
  • Few-shot learning: mai multe exemple
Introducere în LLM-uri cu Python

Învățare one-shot

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])

POSITIVE
Introducere în LLM-uri cu Python

Să exersăm!

Introducere în LLM-uri cu Python

Preparing Video For Download...