완전 자동화된 MLOps 소개

완전 자동화된 MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

산업 현장에서의 MLOps

기업이 머신러닝을 사용할 때의 공통 목표는 무엇일까요?

  • 데이터를 활용하는 ML 도구와 제품을 개발하여
    • 고객을 더 잘 서비스
    • 프로세스 최적화

기업이 ML 시스템을 사용해 내부 프로세스를 강화하거나 고객 대상 서비스를 개선하는 방식을 보여주는 이미지.

완전 자동화된 MLOps

가치 창출 최적화

기업의 목표는 이익 극대화입니다

  • 머신러닝은 수익성을 높일 수 있습니다
  • 비용과 매출을 분석해 잠재적 이익을 추정할 수 있습니다
  • 적정 개수의 ML 활용 사례를 배포하면 이익이 발생합니다

곡선을 보여주는 플롯. x축: 머신러닝 프로젝트 수. y축: 프로젝트가 창출한 매출. 곡선은 증가하다가 프로젝트 6개, 약 2,500만의 매출에서 평탄화됩니다. 이후 매출은 다시 증가하지 않고 감소합니다.

완전 자동화된 MLOps

소프트웨어 개발의 비용

전통적 소프트웨어 개발 프로젝트의 예상 비용:

  • 개발 비용
  • 프로젝트 관리
  • UI/UX 디자인
  • 품질 보증
완전 자동화된 MLOps

소프트웨어 개발의 기술 부채

기술 부채 또는 설계 부채:

  • 잘못된 설계로 인한 재작업 비용

형편없이 지어진 집 앞에 선 두 엔지니어 그림. 한 명이 말합니다: "왜 창문 하나 추가하는 데 이렇게 오래 걸리는지 모르겠어."

1 https://vincentdnl.com/drawings/
완전 자동화된 MLOps

ML 시스템의 숨겨진 기술 부채

Machine Learning: "기술 부채의 고금리 신용카드"[1].

숨겨진 기술 부채는 다음과 관련될 수 있습니다:

  1. ML 모델을 학습시키는 데이터
  2. ML 시스템을 구동하는 모델
  3. ML 시스템의 인프라
  4. ML 시스템의 모니터링
1 https://research.google/pubs/pub43146/
완전 자동화된 MLOps

머신러닝 프로젝트의 비용

ML 시스템의 기술 부채로 인한 이익 감소: $$ $$

두 개의 도표가 각각 하나의 곡선을 보여줍니다. 첫 번째 도표에서는 예상 매출이 2,500만 달러로 계산됩니다. 두 번째 도표에서는 이 매출이 1,000만 달러로 줄어듭니다.

완전 자동화된 MLOps

기술 부채의 고금리 신용카드

ML 시스템은 복잡해지고 통제가 어려워질 수 있습니다.

ML 시스템에 존재하는 많은 구성 요소를 보여주는 그림. 중앙의 ML 코드는 작은 구성 요소입니다. 그 주위에 구성, 데이터 수집, 데이터 검증, 머신 자원 관리, 서빙 인프라, 모니터링, 분석 도구, 프로세스 관리 도구, 피처 추출이 있습니다.

완전 자동화된 MLOps

MLOps: 가장 효과적인 상환 방법

ML이 기술 부채의 고금리 신용카드라면, MLOps는 이를 갚는 최선의 방법입니다.

MLOps에는 다음이 포함될 수 있습니다:

  • 자동화된 테스트
  • 자동화된 실험 추적
  • 자동화된 모니터링

기술 부채를 최소화하려면

완전 자동화된 MLOps

실습해 봅시다!

완전 자동화된 MLOps

Preparing Video For Download...