Implementace tréninkové logiky

Škálovatelné modely AI s PyTorch Lightning

Sergiy Tkachuk

Director, GenAI Productivity

Definice tréninkového kroku

Zpracujte vstupní dávku a štítky
Vypočítejte predikce pomocí dopředného průchodu
Vypočítejte ztrátu křížové entropie pro klasifikaci
Zaznamenejte tréninkovou ztrátu pro monitorování

def training_step(self, batch, batch_idx):
    x, y = batch

    y_hat = self(x)

    loss = cross_entropy(y_hat, y)

    self.log("train_loss", loss)
    return loss

Konfigurace optimalizátorů

Vyberte vhodný optimalizátor pro aktualizace
Propojte parametry modelu pro výpočet gradientů
Nastavte vhodnou rychlost učení pro konvergenci
Vraťte instanci optimalizátoru pro integraci s Lightning

def configure_optimizers(self):
    optimizer = torch.optim.Adam(self.parameters(), lr=1e-3)
    return optimizer

Trénování s Lightning Trainer

Integrujte tréninkovou logiku s Lightning Trainer
Automaticky spravujte tréninkové smyčky a epochy
Monitorujte metriky výkonu v reálném čase

Tok Lightning Trainer

Použití trainer.fit a trainer.validate

Spusťte trénování metodou trainer.fit
Validujte model metodou trainer.validate

trainer.fit(model, train_dataloader)

trainer.validate(model, val_dataloader)

Automatizujte tréninkové a validační cykly
Monitorujte metriky v obou fázích

Kompletní příklad tréninkové logiky

Definujte vlastní LightningModule s klasifikátorem
Implementujte training_step pro výpočet a záznam ztráty
Nakonfigurujte optimalizátory pro aktualizaci parametrů modelu
Trénujte a validujte model

class LightClassifier(pl.LightningModule):
    def __init__(self):
        super().__init__()
        self.layer=torch.nn.Linear(28 * 28, 10)
    def forward(self, x):
        return self.layer(x.view(x.size(0), -1))

    def training_step(self, batch, batch_idx):
        ...

    def configure_optimizers(self):
        params=self.parameters()
        optimizer=torch.optim.Adam(params,lr=1e-3)
        return optimizer

model = LightClassifier() # Define classifier model
trainer = Trainer(max_epochs=5) # Define trainer
trainer.fit(model, train_dataloader)
trainer.validate(model, val_dataloader)

Průmyslové aplikace

Proč je tréninková logika důležitá?

Zajistí přesné sledování ztráty pro kontrolu kvality
Optimalizuje tréninkové pipeline pro škálovatelné nasazení

Příklady z praxe:

Zlepšení analýzy obrazu v diagnostice ve zdravotnictví
Podpora detekce podvodů ve finančních službách

Zobrazování ve zdravotnictví

Průmyslové aplikace

Proč je tréninková logika důležitá?

Zajistí přesné sledování ztráty pro kontrolu kvality
Optimalizuje tréninkové pipeline pro škálovatelné nasazení

Příklady z praxe:

Zlepšení analýzy obrazu v diagnostice ve zdravotnictví
Podpora detekce podvodů ve finančních službách

Zobrazování ve zdravotnictví a detekce podvodů

Lass uns üben!

Škálovatelné modely AI s PyTorch Lightning