현대적 MLOps 프레임워크

MLOps 배포와 라이프사이클링

Nemanja Radojkovic

Senior Machine Learning Engineer

소개

 

 

• 시니어 머신러닝 엔지니어
• 프로덕션에서 머신러닝 모델 개발·배포·운영 경험
• 현재 관심사: ML 배포와 라이프사이클링

¹ www.linkedin.com/in/radojkovic

개념 중심 과정

예: 개념적 이해

아니요: 실습형 기술

MLOps

머신러닝 운영(MLOps)

• 원칙
• 실무
• 도구

목표: ML 워크플로우와 서비스

• 자동화
• 재현성
• 통합

1장

MLOps의 가치와 필요성

모델 생애주기 단계

 

MLOps 프레임워크 구성 요소

Ops 없는 ML의 높은 비용

 

일반적인 출발점

• 수동 ML 워크플로우
• 수동 배포
• 임시 모니터링

 

=> 기술 부채 누적

기술 부채

더 나은 접근이 더 오래 걸려 지금은 쉬운(제한된) 해법을 택함으로써 발생하는 추가 재작업의 암묵적 비용

~ Wikipedia[1]

 

관련 유명 Google 논문:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

시간이 지날수록, 더 많은 모델 배포

• 기술 부채와 모델 리스크 증가
• 프로세스가 느리고 좌절·오류 증가
• 가치 제공 능력 저하

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

ML 워크플로우

• 데이터 수집 및 준비
• 데이터 라벨링
• 모델 선택
• 모델 학습
• 모델 패키징
• 모델 배포
• 모델 모니터링 및 유지보수

 

ML 워크플로우 자동화 == MLOps 성숙도

MLOps 구현 결과

• 자동화됨
• 빠름
• 재현 가능
• 설명 가능

곧 다룹니다!

 

모델 라이프사이클링

MLOps 아키텍처

Ayo berlatih!

MLOps 배포와 라이프사이클링