모델 제공

엔드 투 엔드 Machine Learning

Joshua Stapleton

Machine Learning Engineer

서비스형 모델 (MaaS)

  • 이해관계자/사용자는 인터넷으로 모델에 접근

  • 포털을 통해 모델 제공

    • 사용자가 질의/데이터 제출
    • 진단/예측 수신

  • 고려사항:

    • 농촌 클리닉/인터넷 미접속
    • 고보안 환경/민감 데이터

서비스형 모델을 나타내는 포털 기호

엔드 투 엔드 Machine Learning

온디바이스 서빙

통합 서빙 아키텍처

  • 엣지 컴퓨팅
  • 불안정한 인터넷 환경에 유용

기기 내 연산을 나타내는 머리 속 톱니바퀴

엔드 투 엔드 Machine Learning

온디바이스 서빙의 장단점

장점:

  • 지연 시간 감소
  • 보안성
  • 원격/오프라인 환경에 적합

단점:

  • 자원 제약
  • 모델 업데이트
  • 모니터링
엔드 투 엔드 Machine Learning

구현 전략

  • 프루닝
  • 전이 학습
  • 전용 프레임워크 사용

전략을 나타내는 아이콘

엔드 투 엔드 Machine Learning

연습해 봅시다!

엔드 투 엔드 Machine Learning

Preparing Video For Download...