Feinabstimmungsansätze

Einführung in LLMs mit Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Feinabstimmung

 

Anwendungsfall für die Feinabstimmung von LLMs in der Chemie

Einführung in LLMs mit Python

Gesamte Feinabstimmung (Full Fine-Tuning)

 

  • Gewichte des gesamten Modells werden angepasst
  • Hoher Rechenaufwand

 

Gesamte Feinabstimmung

Einführung in LLMs mit Python

Teilweise Feinabstimmung

 

  • Einige Schichten sind festgelegt.
  • Nur die für die Aufgabe relevanten Schichten werden aktualisiert.

 

Teilweise Feinabstimmung

Einführung in LLMs mit Python

Transfer Learning

 

  • Vortrainiertes Modell wird für eine andere, ähnliche Aufgabe angepasst
  • Setzt Wissen aus einem verwandten Bereich ein

Paradigma des Transfer Learnings

Einführung in LLMs mit Python

N-Shot-Learning

  • Zero-Shot-Learning: keine Beispiele
  • One-Shot-Learning: ein Beispiel
  • Few-Shot-Learning: ein paar Beispiele
Einführung in LLMs mit Python

One-Shot-Learning

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])

POSITIVE
Einführung in LLMs mit Python

Lass uns üben!

Einführung in LLMs mit Python

Preparing Video For Download...