İnce ayar yaklaşımları

Python ile LLM'lere Giriş

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

İnce ayar

 

LLM'lerde ince ayar kimya kullanım durumu

Python ile LLM'lere Giriş

Tam ince ayar

 

  • Tüm model ağırlıkları güncellenir
  • Hesaplama açısından maliyetlidir

 

Tam ince ayar

Python ile LLM'lere Giriş

Kısmi ince ayar

 

  • Bazı katmanlar sabittir
  • Yalnızca göreve özel katmanlar güncellenir

 

Kısmi ince ayar

Python ile LLM'lere Giriş

Transfer öğrenmesi

 

  • Önceden eğitilmiş bir model, farklı ancak ilişkili bir göreve uyarlanır
  • Bir alandaki bilgiyi ilişkili bir alana taşır

Transfer öğrenmesi paradigması

Python ile LLM'lere Giriş

N-örnekli öğrenme

  • Sıfır örnekli öğrenme: örnek yok
  • Tek örnekle öğrenme: bir örnek
  • Az örnekli öğrenme: birkaç örnek
Python ile LLM'lere Giriş

Tek örnekle öğrenme (One-shot)

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])
POSITIVE
Python ile LLM'lere Giriş

Haydi pratik yapalım!

Python ile LLM'lere Giriş

Preparing Video For Download...