모델 배포 전략

MLOps 배포와 라이프사이클링

Nemanja Radojkovic

Senior Machine Learning Engineer

배포 성공!

  • ML 앱이 실행 중
  • API가 시간당 수천 건의 요청 처리
  • 한 달 후:
    • 더 나은 기능 발견
    • 새 학습 데이터 수집
    • 모델 빌드 파이프라인 실행
    • 새 모델 패키지 생성
MLOps 배포와 라이프사이클링

스와핑

MLOps 배포와 라이프사이클링

오프라인 예측

MLOps 배포와 라이프사이클링

변경 창

MLOps 배포와 라이프사이클링

실시간 다운타임

MLOps 배포와 라이프사이클링

비용 높은 다운타임

MLOps 배포와 라이프사이클링

블루-그린 구성

MLOps 배포와 라이프사이클링

버튼 한 번으로 전환

MLOps 배포와 라이프사이클링

블루-그린 용어

MLOps 배포와 라이프사이클링

장점과 단점

MLOps 배포와 라이프사이클링

롤백

MLOps 배포와 라이프사이클링

카나리아 배포

MLOps 배포와 라이프사이클링

요청 분할

MLOps 배포와 라이프사이클링

2단계

MLOps 배포와 라이프사이클링

최종 결과

MLOps 배포와 라이프사이클링

MLOps 배포와 라이프사이클링

검증

MLOps 배포와 라이프사이클링

단점

MLOps 배포와 라이프사이클링

리스크 완화

MLOps 배포와 라이프사이클링

Ayo berlatih!

MLOps 배포와 라이프사이클링

Preparing Video For Download...