훈련 로직 구현

PyTorch Lightning으로 만드는 확장 가능한 AI 모델

Sergiy Tkachuk

Director, GenAI Productivity

training_step 정의

입력·레이블 배치 처리
순전파로 예측 계산
분류용 교차 엔트로피 손실 계산
모니터링을 위해 훈련 손실 로그 기록

def training_step(self, batch, batch_idx):
    x, y = batch

    y_hat = self(x)

    loss = cross_entropy(y_hat, y)

    self.log("train_loss", loss)
    return loss

옵티마이저 구성

업데이트에 적합한 옵티마이저 선택
그래디언트 계산을 위해 모델 파라미터 연결
수렴을 위한 적절한 학습률 설정
Lightning 연동을 위해 옵티마이저 반환

def configure_optimizers(self):
    optimizer = torch.optim.Adam(self.parameters(), lr=1e-3)
    return optimizer

Lightning Trainer로 훈련하기

Lightning Trainer와 훈련 로직 통합
훈련 루프와 에폭 자동 관리
실시간으로 성능 지표 모니터링

LightningTrainer 흐름

trainer.fit과 trainer.validate 사용

trainer.fit으로 훈련 시작
trainer.validate로 모델 검증

trainer.fit(model, train_dataloader)

trainer.validate(model, val_dataloader)

훈련/검증 사이클 자동화
두 단계 모두에서 지표 모니터링

훈련 로직 전체 예시

분류기가 있는 사용자 정의 LightningModule 정의
손실 계산 및 기록을 위한 training_step 구현
모델 파라미터 업데이트용 옵티마이저 구성
모델 훈련 및 검증

class LightClassifier(pl.LightningModule):
    def __init__(self):
        super().__init__()
        self.layer=torch.nn.Linear(28 * 28, 10)
    def forward(self, x):
        return self.layer(x.view(x.size(0), -1))

    def training_step(self, batch, batch_idx):
        ...

    def configure_optimizers(self):
        params=self.parameters()
        optimizer=torch.optim.Adam(params,lr=1e-3)
        return optimizer

model = LightClassifier() # Define classifier model
trainer = Trainer(max_epochs=5) # Define trainer
trainer.fit(model, train_dataloader)
trainer.validate(model, val_dataloader)

산업 분야 활용

왜 훈련 로직이 중요한가?

품질 관리를 위한 손실 추적 정밀도 확보
확장 가능한 배포를 위한 파이프라인 최적화

현업 사례:

의료 영상 진단 향상
금융 사기 탐지 지원

의료 영상

산업 분야 활용

왜 훈련 로직이 중요한가?

품질 관리를 위한 손실 추적 정밀도 확보
확장 가능한 배포를 위한 파이프라인 최적화

현업 사례:

의료 영상 진단 향상
금융 사기 탐지 지원

의료 영상 및 사기 탐지

연습해 봅시다!

PyTorch Lightning으로 만드는 확장 가능한 AI 모델