MLOps 팀의 성공적 운영

비즈니스를 위한 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

기계 학습의 제한된 영향(과거)

과거에는 기업이 기계 학습을 실험적으로 접근했습니다.

문제로는 다음이 있었습니다.

  • 사일로
  • 모델의 낮은 프로덕션 반영률
  • 긴 개발 기간
  • 자동화 부재 또는 미비
  • 재현성 결여

1980년대 컴퓨터 앞의 한 사람 흑백 사진

비즈니스를 위한 MLOps

MLOps 팀의 성공적 운영

$$

이 비디오에서

  • 기술 자체는 비중을 줄입니다
  • 성공적인 DevOps 실천을 살펴봅니다
비즈니스를 위한 MLOps

DevOps 복습

DevOps의 목표

  • 개발자와 운영자 간 협업 강화

개발은

  • 사용자 경험 향상
  • 신규 비즈니스 요구 반영

운영은

  • 안정성과 유지보수성 추구

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
비즈니스를 위한 MLOps

일반적인 DevOps 실천

  • 지속적 전달
    • 잦고 작으며 신뢰할 수 있는 코드 배포
    • 예: 작은 기능(또는 코드 변경) 지속 추가
  • 테스트·배포 자동화
  • 모니터링, 손쉬운 롤백
  • 지속적 통합

$$ 소프트웨어 릴리스 청사진

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
비즈니스를 위한 MLOps

장애 대응

DevOps 순환 $$ 파란 화면

  • 피드백 루프
    • 자동화 테스트
    • 조기 실패 탐지
  • 문제가 발생하면
    • 근본 원인 분석
    • 비난 없는 사후 회고
    • 학습·지식 공유·개선
비즈니스를 위한 MLOps

사람과 팀

MLOps/DevOps의 핵심은 협업입니다

  • 기업마다 팀 설계는 다릅니다

$$

공통 특징

  • 자율성
  • 공동 인센티브
  • 피드백 루프와 학습
  • 신뢰
  • 위험 감수 보상

$$ 협업하는 사람들

비즈니스를 위한 MLOps

실험

실험으로 고품질을 지향

  • A/B 테스트(무작위 실험)
  • 의도적 장애 주입

$$ 실험실 테스트

비즈니스를 위한 MLOps

연습해 봅시다!

비즈니스를 위한 MLOps

Preparing Video For Download...