MLOps의 완전 자동화와 모범 사례 소개

완전 자동화된 MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps 수명주기

MLOps 수명주기 이미지. 서로 연결된 세 개의 원형 사이클. 왼쪽부터: Design, Development, Deployment.

완전 자동화된 MLOps

MLOps의 성숙도 수준

$$

성숙도 수준:

  • 수동 ML 워크플로

  • 반자동 ML 워크플로

  • 완전 자동 ML 워크플로

완전 자동화된 MLOps

수동 ML 워크플로 - 임시 실험

수동 프로세스를 통해 개발에서 프로덕션으로 모델을 수동 전달하는 과정을 보여주는 이미지.

완전 자동화된 MLOps

반자동 ML 워크플로

데이터가 오케스트레이션된 실험 파이프라인으로 입력되는 이미지.

완전 자동화된 MLOps

반자동 ML 워크플로

이전 이미지가 확장되었습니다. 이제 코드를 소스 저장소로 푸시하며, 피처 스토어가 시스템에 데이터를 제공합니다.

완전 자동화된 MLOps

반자동 ML 워크플로

이전 이미지에 배포 구성 요소가 추가되었습니다. 이 구성 요소는 아키텍처에서 자동 ML 파이프라인을 배포합니다. 또한 ML 메타데이터 저장소가 자동 파이프라인에서 생성된 메타데이터를 수신합니다.

완전 자동화된 MLOps

반자동 ML 워크플로

이전 아키텍처가 확장되었습니다. 이제 자동 파이프라인이 생성한 모델이 모델 레지스트리로 푸시되고, 레지스트리가 모델 서빙 모듈에 모델을 제공합니다. 모델 서빙 모듈은 아키텍처의 예측 서비스에 연결됩니다.

완전 자동화된 MLOps

반자동 ML 워크플로

아키텍처의 예측 서비스 모듈이 성능 모니터링 구성 요소에 연결되고, 이는 자동 트리거에 연결됩니다. 자동 트리거는 시스템에서 자동 파이프라인을 시작할 수 있습니다.

완전 자동화된 MLOps

완전 자동 ML 워크플로

완전 자동화된 MLOps 기준 아키텍처의 고수준 개요 이미지.

완전 자동화된 MLOps

ML 수명주기의 자동화 - 디자인

디자인 및 기획 단계의 활동은 자동화할 수 없음을 보여주는 표.

모범 사례:

  • 재현 가능한 프로세스 적용
  • 상세 문서화 작성
완전 자동화된 MLOps

ML 수명주기의 자동화 - 개발

개발 단계의 활동이 모두 자동화되지는 않음을 보여주는 표.

모범 사례:

  • 우리는 소프트웨어를 개발한다는 점 인식
  • 버전 관리 사용
  • 오케스트레이션 도구 사용
완전 자동화된 MLOps

ML 수명주기의 자동화 - 운영

운영 단계의 활동은 대부분 자동화 가능함을 보여주는 표.

사용:

  • 자동화 테스트
  • CI/CD/CT/CM
완전 자동화된 MLOps

연습해 봅시다!

완전 자동화된 MLOps

Preparing Video For Download...