Modellen fine-tunen met Trainer

Efficiënt AI-modellen trainen met PyTorch

Dennis Lee

Data Engineer, Amazon

Datavoorbereiding

Diagram van gedistribueerde training met modelreplicatie en data-sharding.

Gedistribueerde training

Stroomschema met de cursusonderwerpen: datavoorbereiding, gedistribueerde training, efficiënt trainen en optimizers.

Trainer en Accelerator

Grafiek die gebruiksgemak vs. aanpasbaarheid vergelijkt voor Accelerator en Trainer.

Trainer en Accelerator

Grafiek die gebruiksgemak vs. aanpasbaarheid vergelijkt voor Accelerator en Trainer.

Training boosten met Trainer

Trainer-bibliotheek
```
from transformers import Trainer
```
Draai het model parallel op elk device
Versnel training, zoals lopende banden
Input controleren: dataset, model, metrics
Bouw een sentimentanalyse voor e-commerce

Afbeelding van auto’s op lopende banden, als metafoor voor parallelle verwerking.

Dataset met sentiments van productreviews

print(dataset)

DatasetDict({
    train: Dataset({
        features: ['Text', 'Label'],
        num_rows: 1000
    }), ...})

print(f'"{dataset["train"]["Text"][0]}": {dataset["train"]["Label"][0]}')

"I love this product!": positive

Labels omzetten naar integers

def map_labels(example):
    if example["Label"] == "negative":
        return {"labels": 0}

    else:
        return {"labels": 1}

dataset = dataset.map(map_labels)

print(f'First label: {dataset["train"]["labels"][0]}')

First label: 1

Tokenizer en model definiëren

Pretrained model en tokenizer laden:

model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased", 
                                                           num_labels=2)

tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

Tokenizer toepassen op het veld text:

def encode(examples):

    return tokenizer(examples["Text"], padding="max_length", truncation=True, 
                      return_tensors="pt")

dataset = dataset.map(encode, batched=True)

print(f'The first tokenized review is {dataset["train"]["input_ids"][0]}.')

The first tokenized review is [101, 1045, 2293, 2023, 4031, 999, 102].

Evaluatiemetrics definiëren

import evaluate


def compute_metrics(eval_predictions):

    load_accuracy = evaluate.load("accuracy")
    load_f1 = evaluate.load("f1")

    logits, labels = eval_predictions

    predictions = np.argmax(logits, axis=-1)

    accuracy = load_accuracy.compute(predictions=predictions, references=labels)[
        "accuracy"
    ]

    f1 = load_f1.compute(predictions=predictions, references=labels)["f1"]

    return {"accuracy": accuracy, "f1": f1}

Trainingsargumenten

output_dir: Waar het model wordt opgeslagen
Hyperparameters opgeven (bv. learning_rate en weight_decay)
save_strategy: Opslaan na elke epoch
evaluation_strategy: Metrics evalueren na elke epoch

from transformers import (
    TrainingArguments)

training_args = TrainingArguments(
    output_dir="output_folder",

    learning_rate=2e-5,
    per_device_train_batch_size=16,
    per_device_eval_batch_size=16,
    num_train_epochs=2,
    weight_decay=0.01,

    save_strategy="epoch",
    evaluation_strategy="epoch",
)

Trainer instellen

from transformers import Trainer

trainer = Trainer(model=model,

                  args=training_args,

                  train_dataset=dataset["train"],
                  eval_dataset=dataset["validation"],

                  compute_metrics=compute_metrics)

trainer.train()

{'epoch': 1.0, 'eval_loss': 0.79, 'eval_accuracy': 0.00, 'eval_f1': 0.00}
{'epoch': 2.0, 'eval_loss': 0.65, 'eval_accuracy': 0.11, 'eval_f1': 0.15}

print(trainer.args.device)

cpu

Sentimentanalyse voor e-commerce uitvoeren

sample_review = "This product is amazing!"

input_ids = tokenizer.encode(sample_review, return_tensors='pt')
print(f"Tokenized review: {input_ids}")

Tokenized review: tensor([[ 101, 2023, 4031, 2003, 6429,  999,  102 ]])

Sentimentanalyse voor e-commerce uitvoeren

output = model(input_ids)
print(f"Output logits: {output.logits}")

Output logits: tensor([[ -0.0538, 0.1300 ]])

predicted_label = torch.argmax(output.logits, dim=1).item()
print(f"Predicted label: {predicted_label}")

Predicted label: 1

sentiment = "Negative" if predicted_label == 0 else "Positive"
print(f'The sentiment of the product review is "{sentiment}."')

The sentiment of the product review is "Positive."

Checkpoints met Trainer

Hervatten vanaf de laatste checkpoint, zoals pauzeren van een film

trainer.train(resume_from_checkpoint=True)

{'epoch': 3.0, 'eval_loss': 0.29, 'eval_accuracy': 0.37, 'eval_f1': 0.51}
{'epoch': 4.0, 'eval_loss': 0.23, 'eval_accuracy': 0.46, 'eval_f1': 0.58}

Hervatten vanaf een specifieke checkpoint in de outputmap

trainer.train(resume_from_checkpoint="model/checkpoint-1000")

Laten we oefenen!

Efficiënt AI-modellen trainen met PyTorch