Các cách tinh chỉnh

Nhập môn LLMs trong Python

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Tinh chỉnh

 

Trường hợp dùng tinh chỉnh LLMs trong hóa học

Nhập môn LLMs trong Python

Tinh chỉnh đầy đủ

 

  • Cập nhật toàn bộ trọng số mô hình
  • Tốn nhiều tài nguyên tính toán

 

Tinh chỉnh đầy đủ

Nhập môn LLMs trong Python

Tinh chỉnh một phần

 

  • Cố định một số tầng
  • Chỉ cập nhật các tầng theo nhiệm vụ

 

Tinh chỉnh một phần

Nhập môn LLMs trong Python

Học chuyển giao

 

  • Điều chỉnh mô hình đã huấn luyện cho nhiệm vụ khác nhưng liên quan
  • Tận dụng kiến thức từ một miền sang miền gần kề

Mô hình học chuyển giao

Nhập môn LLMs trong Python

Học N-shot

  • Học zero-shot: không có ví dụ
  • Học one-shot: một ví dụ
  • Học few-shot: vài ví dụ
Nhập môn LLMs trong Python

Học one-shot

from transformers import pipeline

generator = pipeline(task="sentiment-analysis", model="distilbert-base-uncased-finetuned-sst-2-english")

input_text = """
Classify the sentiment of this sentence as either Positive or Negative.
Example:
Text: "I'm feeling great today!" Sentiment: Positive
Text: "The weather today is lovely." Sentiment:
"""

result = generator(input_text, max_length=100)
print(result[0]["label"])

POSITIVE
Nhập môn LLMs trong Python

Hãy thực hành!

Nhập môn LLMs trong Python

Preparing Video For Download...