레퍼런스 아키텍처: 완전 자동화 MLOps

완전 자동화된 MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

레퍼런스 아키텍처란?

$$

레퍼런스 아키텍처는 다양한 IT 도메인에서 해법을 설계할 때 쓰는 템플릿입니다.

다음으로 구성된 문서 모음:

  • IT 요소의 구조와 통합
  • IT 시스템(ML 시스템 포함)의 공통 패턴

  • 업계의 경험과 모범 사례 활용

완전 자동화된 MLOps

완전 자동화 MLOps 아키텍처

완전 자동화 MLOps 레퍼런스 아키텍처의 고수준 개요 이미지.

1 https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning
완전 자동화된 MLOps

레퍼런스 아키텍처 - 오케스트레이션된 실험

완전 자동화 MLOps 레퍼런스 아키텍처의 고수준 개요 이미지. 이미지가 연결된 상자들로 확대됩니다. 왼쪽부터 데이터 분석, 오케스트레이션된 실험, 소스 코드, 소스 코드 저장소.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 소스 코드 & CI

이미지가 왼쪽으로 이동합니다. 소스 코드 저장소 다음에 지속적 통합 블록이 나타납니다. 이 블록에는 패키지를 출력하는 빌드 상자가 있습니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 아티팩트 & CD

이미지가 아래로 이동하여 지속적 딜리버리 상자를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - ML 파이프라인 배포

이미지가 왼쪽으로 이동하며 자동화된 ML 파이프라인의 단계(데이터 추출, 데이터 검증, 데이터 준비, 모델 학습, 모델 평가, 모델 검증)를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 메타데이터 스토어

이미지가 아래로 이동하며 ML 파이프라인이 생성한 로그를 수집하는 메타데이터 스토어를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 모델 레지스트리

이미지가 위로, 오른쪽으로 이동하며 ML 파이프라인이 학습한 모델이 모델 레지스트리에 푸시됨을 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 예측 서비스

이미지가 아래로 이동하며 ML 파이프라인이 학습한 모델이 아키텍처의 예측 서비스 모듈로 지속적으로 배포됨을 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 지속적 모니터링

이미지가 왼쪽으로 이동하며 예측 서비스가 제공한 예측의 성능을 추적하는 성능 모니터링 구성요소를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 자동 트리거

이미지가 더 왼쪽으로 이동하며 성능 모니터링 모듈에 연결된 트리거 구성요소를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 자동 재학습

이미지가 위로 이동하며 트리거가 시스템의 자동 ML 파이프라인을 활성화할 수 있음을 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처

이미지가 축소되어 전체 레퍼런스 아키텍처의 고수준 개요를 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 피처 스토어

완전 자동화 MLOps 레퍼런스 아키텍처의 고수준 개요 이미지. 이미지가 피처 스토어 구성요소로 확대됩니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 피처 스토어

이미지가 아래로 이동하며 피처 스토어가 스테이징, 프리프로덕션, 프로덕션 환경의 자동 ML 파이프라인에도 데이터를 제공함을 보여 줍니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 피처 스토어

이미지가 피처 스토어 구성요소로 확대됩니다. 이 구성요소는 실험·개발 환경의 오케스트레이션된 실험 모듈에 데이터를 제공합니다.

완전 자동화된 MLOps

레퍼런스 아키텍처 - 피처 스토어

이미지가 피처 스토어 구성요소로 확대됩니다. 이 구성요소는 시스템의 예측 서비스에도 데이터를 제공합니다.

완전 자동화된 MLOps

완전 자동화 MLOps 아키텍처

완전 자동화 MLOps 레퍼런스 아키텍처의 고수준 개요 이미지.

완전 자동화된 MLOps

Let's practice!

완전 자동화된 MLOps

Preparing Video For Download...