메타데이터 저장소

완전 자동화된 MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps에서 메타데이터란?

  • 메타데이터는 아티팩트에 대한 정보입니다
    • ML 파이프라인의 다양한 구성요소 실행 중에 생성됨

머신러닝 파이프라인: 데이터 추출, 데이터 검증, 모델 학습, 모델 평가, 모델 검증 단계를 보여줌.

메타데이터 예:

  • 데이터 버저닝: 동일 데이터의 여러 버전 보관
  • 하이퍼파라미터 등 학습 아티팩트 메타데이터
  • 파이프라인 실행 로그
1 https://datacentricai.org/
완전 자동화된 MLOps

ML에서 메타데이터의 핵심 요소

$$

  • 데이터 라인리지

  • 재현성

  • 모니터링

  • 규제 준수

완전 자동화된 MLOps

메타데이터의 중요성 - 데이터 라인리지

  • 데이터 라인리지 메타데이터는 데이터를 추적합니다:

    • 생성 지점부터
    • 소비 지점까지

데이터 라인리지 개념 일러스트. 데이터가 원천에서 소비까지 여러 프로세스를 거치며 변환됨을 보여줌.

완전 자동화된 MLOps

메타데이터의 중요성 - 재현성

  • 머신러닝 실험의 메타데이터는:
    • 타인이 결과를 재현하도록 함
    • ML 시스템에 대한 신뢰를 높임
    • ML 프로세스에 과학적 엄밀성을 도입

재현성 개념을 설명하는 그림. 과학자들이 서로의 작업을 망원경으로 확인하며 재현하려 함.

완전 자동화된 MLOps

메타데이터의 중요성 - 모니터링

  • ML 엔지니어가 다음을 할 수 있게 합니다
    • MLOps 파이프라인 각 부분의 실행을 추적
    • 언제든 ML 시스템 상태 확인
완전 자동화된 MLOps

모니터링 도구 예시

실행 중인 MLOps 시스템의 다양한 지표를 보여주는 모니터링 대시보드 예시.

1 https://cloud.google.com/stackdriver/docs/solutions/gke/observing
완전 자동화된 MLOps

메타데이터 저장소

  • MLOps 메타데이터를 중앙에서 관리:

    • 실험(로그)
    • 아티팩트
    • 모델
    • 파이프라인

  • 사용자 인터페이스 제공:

    • 모델 관련 모든 메타데이터 읽기/쓰기

메타데이터 저장소 일러스트. 여러 주체와 프로세스가 중앙 저장소의 메타데이터에 접근함을 보여줌.

1 https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning
완전 자동화된 MLOps

MLOps 아키텍처의 메타데이터 저장소

완전 자동화된 MLOps 아키텍처 그림. MLOps 과정에서 메타데이터 저장소의 중심 역할을 보여줌.

완전 자동화된 MLOps

완전 자동화 MLOps의 메타데이터 저장소

완전 자동화된 MLOps 파이프라인의 작동을 자동 모니터링합니다

  • 자동 사고 대응을 촉진합니다. 예:

    • 자동 모델 재학습
    • 자동 롤백

드리프트가 트리거한 모델 재학습을 나타내는 도표. 시간 대비 성능 곡선에서 드리프트 지점을 표시하고 새 모델의 성능 곡선이 시작됨.

완전 자동화된 MLOps

Ayo berlatih!

완전 자동화된 MLOps

Preparing Video For Download...