MLOps 관련 비즈니스 과제와 위험

비즈니스를 위한 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

3장 아젠다

영상: MLOps 관련 비즈니스 과제와 위험

  • Business challenges and risks related to MLOps

$$

영상: MLOps 팀의 성공적 운영

  • How MLOps teams successfully operate

$$

영상: 오늘날 MLOps 현황

  • The state of MLOps today
비즈니스를 위한 MLOps

MLOps는 어렵습니다

$$ 많은 기업이 어려움을 겪습니다

  • 운영 내재화
  • 설계·개발 자동화
  • 간소화 및 확장

ML 활용 사례에서

$$

도전 과제

비즈니스를 위한 MLOps

MLOps에는 다양한 역량이 필요합니다

MLOps는 머신러닝, 데이터 엔지니어링, 소프트웨어 엔지니어링의 교차점에 있습니다

비즈니스를 위한 MLOps

MLOps 과제: 역량

팀은 종종

  • 필요한 역량이 부족함
    • 특히 소프트웨어 엔지니어링 관련

$$

그 결과

  • 기술 부채
  • 표준화 부족
  • 재현성 부족

퍼즐을 함께 푸는 사람들

비즈니스를 위한 MLOps

MLOps 과제: 협업과 문화

협업이 핵심입니다

  • 통계 지표와 비즈니스 목표 정렬
  • 모든 이해관계자가 MLOps 운영 방식을 이해

$$

문화와 습관

  • 지속적 학습
  • 실패 가능성 인정
  • 문서화와 지식 공유

$$

컴퓨터 앞에서 협업하는 사람들

비즈니스를 위한 MLOps

MLOps 과제: 기술

기술

  • 빠르게 변화함
  • 공통 MLOps 툴 스택 부재
    • 팀마다 기술 접근이 크게 다름
    • 기술 관련 합의된 모범 사례가 적음

$$

흔한 실수

  • 기술에 과도하게 치중

$$ 지능형 네트워크 그래프

비즈니스를 위한 MLOps

MLOps 과제: 리스크

머신러닝 모델 운영 리스크:

  • 비즈니스·재무 리스크
    • 애플리케이션/모델 미가용 가능성
    • 예측 품질 저하 가능성
    • 유지보수 리스크
  • 거버넌스 리스크
    • 예측이 완전히 빗나갈 수 있음
    • 잠재적 편향(bias)
  • (사이버) 안전 리스크

$$

다양한 위험의 일러스트

비즈니스를 위한 MLOps

전통적 소프트웨어 vs. MLOps

전통적 소프트웨어

  • 테스트, 디버깅 ...

MLOps

  • 테스트, 디버깅 ...
  • 데이터 모니터링
  • 모델 출력 모니터링
  • ...

$$ 코드를 작성하는 사람

$$ 하이브리드 인간-로봇이 코드를 작성하는 모습

비즈니스를 위한 MLOps

실습해 봅시다!

비즈니스를 위한 MLOps

Preparing Video For Download...