Doğrulama ve test ekleme

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Sergiy Tkachuk

Director, GenAI Productivity

Neden doğrulama ve test eklenmeli?

  • Doğrulama
    • Model sorunlarını erken belirleyin
    • Aşırı/az öğrenmeyi önleyin
  • Test
    • Görülmemiş veride performans

Doğrulama ve test diyagramı

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Doğrulamanın uygulanması

  • Her epoch sonunda performansı değerlendirin
  • Daha dengeli görünüm için metrikleri birleştirin
def validation_step(self, batch, batch_idx):
  x, y = batch
  preds = self(x)
  loss = F.cross_entropy(preds, y)
  self.log('val_loss', loss)


def validation_epoch_end(self, outputs): avg_loss = torch.stack([x['loss'] for x in outputs]).mean() self.log('avg_val_loss', avg_loss)
PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Testin uygulanması

  • Görülmemiş veride nihai performansı değerlendirin
  • Gerçek dünya etkinliğini karşılaştırın
  • Dağıtıma yönelik metrikler sağlayın
def test_step(self, batch, batch_idx):
  x, y = batch
  y_hat = self(x)
  loss = F.cross_entropy(y_hat, y)
  self.log('test_loss', loss)


def test_epoch_end(self, outputs): avg_loss = torch.stack([x['loss'] for x in outputs]).mean() self.log('avg_test_loss', avg_loss)
PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Torchmetrics ile değerlendirme

$$

  • Doğruluk gibi metrikleri izleyin
  • Lightning iş akışına kolayca entegre edin
  • Doğruluğu başlatın
  • Her doğrulama adımında doğruluk hesaplayın
from torchmetrics import Accuracy

class BaseModel(pl.LightningModule):
    def __init__(self):
        super().__init__()
        self.accuracy = Accuracy()

def validation_step(self, batch, batch_idx): x, y = batch preds = self(x) acc = self.accuracy(preds, y) self.log('val_acc', acc)
PyTorch Lightning ile Ölçeklenebilir AI Modelleri

DataModule, doğrulama ve testi bağlama

  • Veri mantığı DataModule'de merkezileştirilir

  • Tutarlı train/val/test bölmeleri

  • Doğrulama metrikleri otomatik kaydedilir

  • Hazırlıktan raporlamaya tekrarlanabilir süreç

DataModule, doğrulama ve test diyagramı

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Hadi pratik yapalım!

PyTorch Lightning ile Ölçeklenebilir AI Modelleri

Preparing Video For Download...