모니터링과 경보

MLOps 배포와 라이프사이클링

Nemanja Radojkovic

Senior Machine Learning Engineer

외부 세계

MLOps 배포와 라이프사이클링

서비스의 버그

MLOps 배포와 라이프사이클링

버그 잡기

MLOps 배포와 라이프사이클링

많은 이동 부품

MLOps 배포와 라이프사이클링

장애 지점 2

MLOps 배포와 라이프사이클링

경보

MLOps 배포와 라이프사이클링

여기를 보세요

MLOps 배포와 라이프사이클링

로깅 1

MLOps 배포와 라이프사이클링

로깅 2

MLOps 배포와 라이프사이클링

로깅 3

MLOps 배포와 라이프사이클링

데이터 파이프라인 1

MLOps 배포와 라이프사이클링

데이터 검증 2

MLOps 배포와 라이프사이클링

데이터 프로파일 검증

MLOps 배포와 라이프사이클링

통계적 검증

다음과 같을 수 있습니다:

  • 너무 민감함
  • 정보가 부족함

 

위험

  • 경보 과다
  • "경보 피로"
  • 중요한 경보를 놓침
MLOps 배포와 라이프사이클링

모두에게 알리기

MLOps 배포와 라이프사이클링

이력에서 학습하기

사고 처리 후 => 근본 원인과 해결 절차 기록

Google 사례[1]:

  • 10년간 사고를 기록·분석
  • > 2/3는 ML 관련 아님!
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
MLOps 배포와 라이프사이클링

중앙화된 모니터링

MLOps 배포와 라이프사이클링

연습해 봅시다!

MLOps 배포와 라이프사이클링

Preparing Video For Download...