Kubernetes에서의 MLOps

Kubernetes 소개

Frank Heilmann

Platform Architect and Freelance Instructor

MLOps란?

  • 프로덕션에서 머신러닝 모델을 배포·운영하는 패러다임
  • 이러한 모델의 지속적 개발에 초점을 둔 모범 사례 워크플로 집합
  • DevOps에서 영감:
    • 모델은 격리된 실험 환경에서 개발·테스트 후 프로덕션에 배포
    • 프로덕션에서는 지속 모니터링; 재학습이 트리거될 수 있음
  • 데이터 사이언티스트, 데이터 엔지니어, IT 팀이 배포된 모델을 동시 협업하며 정확도를 보장
Kubernetes 소개

Kubernetes에서 MLOps 구현

  • MLOps 패러다임은 Kubernetes와 매우 잘 맞습니다:

    • 격리된 실험 환경: Pod와 Kubernetes Storage로 구현 가능
    • 프로덕션 ML 모델 모니터링: Pod 수명주기(및 배포 이미지 버전)로 지원
    • 모델 정확도에 대한 동시 작업: Kubernetes 아키텍처에 기본 내장

  • MLOps 프레임워크가 여럿 있으나, 가장 잘 알려진 오픈 소스는 다음과 같습니다

Kubernetes 소개

Kubeflow 개요

Kubeflow 개요

  • Kubeflow는 Kubernetes에 특화된 ML 워크플로를 간단히 배포할 수 있게 합니다
  • ML 모델 수명주기의 모든 단계를 포괄합니다
  • 각 단계를 담당하는 여러 컴포넌트로 구성되며, 독립적으로 동작합니다
  • Python API로 모델을 개발·배포할 수 있습니다
    • kubectl을 사용할 필요가 없습니다
Kubernetes 소개

실습해 봅시다!

Kubernetes 소개

Preparing Video For Download...