MLOps에서의 오케스트레이션

완전 자동화된 MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps의 핵심 구성요소

MLOps 참조 아키텍처 이미지. 개발 환경의 오케스트레이션된 실험과 프로덕션의 자동 파이프라인이 강조됨.

완전 자동화된 MLOps

모듈성 및 재사용성

두 개의 ML 파이프라인 도식: 위는 개발·실험 환경, 아래는 프로덕션.

완전 자동화된 MLOps

오케스트레이션과 자동화

ML 파이프라인 사용처:

  • 개발·실험

구성요소 도식: 오케스트레이션된 실험.

  • 프로덕션

자동화된 ML 파이프라인 도식.

완전 자동화된 MLOps

MLOps의 DAG(유향 비순환 그래프)

$$

  • 파이프라인의 그래픽 표현
  • 단계는 노드로 표현
  • 단계 의존성은 엣지

ML 파이프라인의 연결된 단계가 있는 간단한 DAG 이미지.

완전 자동화된 MLOps

MLOps에서의 오케스트레이션이란?

$$

  • 작업 흐름 관리·자동화

$$

  • 작업 스케줄링·모니터링

$$

  • 데이터 의존성과 흐름 관리
완전 자동화된 MLOps

ML 파이프라인 - 개발·실험

개발·실험 환경에서 오케스트레이션된 ML 파이프라인 도식. 데이터 과학자가 트리거하고 오케스트레이터가 조정함.

  • 모델 학습의 엔드 투 엔드 작업 관리
  • 올바른 흐름, 이력 및 로깅
  • 실험 병렬화
완전 자동화된 MLOps

ML 파이프라인 - 프로덕션

프로덕션 환경의 자동화된 ML 파이프라인 도식. 자동 트리거로 시작되고 오케스트레이터가 조정함.

  • 모델 배포 자동화 지원
  • 파이프라인 단계 관리·실행
  • 일관되고 신뢰할 수 있는 배포
완전 자동화된 MLOps

연습해 봅시다!

완전 자동화된 MLOps

Preparing Video For Download...