수명 주기 단계

MLOps 배포와 라이프사이클링

Nemanja Radojkovic

Senior Machine Learning Engineer

머신러닝 수명 주기들

 

  1. ML 프로젝트 수명 주기
  2. ML 애플리케이션 수명 주기
  3. ML 모델 수명 주기
MLOps 배포와 라이프사이클링

ML 프로젝트 개요

MLOps 배포와 라이프사이클링

성과 포함 ML 프로젝트

MLOps 배포와 라이프사이클링

순수 추정기

MLOps 배포와 라이프사이클링

ML 애플리케이션

MLOps 배포와 라이프사이클링

비즈니스 규칙

MLOps 배포와 라이프사이클링

데이터베이스

MLOps 배포와 라이프사이클링

그래픽 사용자 인터페이스

MLOps 배포와 라이프사이클링

API

MLOps 배포와 라이프사이클링

모델과 앱 함께

MLOps 배포와 라이프사이클링

모델에 고정됨

MLOps 배포와 라이프사이클링

분리 I

MLOps 배포와 라이프사이클링

각자 제길

MLOps 배포와 라이프사이클링

분리된 타임라인

MLOps 배포와 라이프사이클링

앱 수명 주기

MLOps 배포와 라이프사이클링

모델 수명 주기

MLOps 배포와 라이프사이클링

여기까지 옴

MLOps 배포와 라이프사이클링

모델이란...

추상적/이론적인 것이 아닙니다

모델이란

  • 구체적이고 학습된 모델
  • 즉시 사용 가능함
MLOps 배포와 라이프사이클링

배포(Deployment)

 

  • 모델 객체 + 배포 리소스 = 모델 배포 패키지
  • 모델을 사용에 투입 = 배포

 

배포 레이스 시작

MLOps 배포와 라이프사이클링

모델 모니터링

 

  • 모델 서버가 실행 중인가요?
  • 입력·출력이 기대와 일치하나요?
  • 일명 사후 배포 모니터링

 

모델 모니터링

MLOps 배포와 라이프사이클링

서비스 종료(Decommissioning)

 

전원 끔

 

가능한 이유

  • 더 나은 모델 발견
  • 더 유용한 특성 생성
  • 대상 프로세스 변경으로 기존 모델 무효화

 

=> 오래된 것 종료, 새 모델 도입

MLOps 배포와 라이프사이클링

모델 보관(아카이빙)

  • 규제 산업에서 중요함.

    2020년에 신용위험 모델이 왜 이 대출을 승인했나요?

 

  • 재현성: 이전 모델 버전을 다시 만들고 로드하여 사용할 수 있는 능력
    • 간단한 요구가 아님

 

모델 아카이브

MLOps 배포와 라이프사이클링

연습해 봅시다!

MLOps 배포와 라이프사이클링

Preparing Video For Download...