API 구축

MLOps 배포와 라이프사이클링

Nemanja Radojkovic

Senior Machine Learning Engineer

API 최상위

MLOps 배포와 라이프사이클링

API 정의

MLOps 배포와 라이프사이클링

서버

MLOps 배포와 라이프사이클링

클라이언트

MLOps 배포와 라이프사이클링

클라이언트를 위한 서비스

우리 서버에서 프로시저 실행

예: Amazon Comprehend의 감성 분석 API

Amazon comprehend 로고

원격 데이터베이스 액세스

예: Twitter API, New York Times API

Twitter API 로고

MLOps 배포와 라이프사이클링

API 아키텍처

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

이 강의에서는: 아키텍처 중립적 관점

MLOps 배포와 라이프사이클링

예시: 내비게이션 앱

내비게이션 앱

 

 

 

API 목적: 클라이언트 앱이 예상 도착 시간을 계산하도록 지원

1 Image: Pixabay, https://www.stockvault.net/user/profile/161904
MLOps 배포와 라이프사이클링

가장 단순한 API

MLOps 배포와 라이프사이클링

가장 단순한 api 2

MLOps 배포와 라이프사이클링

모델 실행

MLOps 배포와 라이프사이클링

모델 응답

MLOps 배포와 라이프사이클링

서버 오류

MLOps 배포와 라이프사이클링

MLOps 배포와 라이프사이클링

MLOps 배포와 라이프사이클링

입력 검증

MLOps 배포와 라이프사이클링

입력 검증 - 기대값

MLOps 배포와 라이프사이클링

입력 검증 3

MLOps 배포와 라이프사이클링

입력 검증: 안내 메시지

MLOps 배포와 라이프사이클링

요청 모델

MLOps 배포와 라이프사이클링

출력 검증

MLOps 배포와 라이프사이클링

코드 버그

MLOps 배포와 라이프사이클링

클라이언트 충돌

MLOps 배포와 라이프사이클링

응답 모델

MLOps 배포와 라이프사이클링

출력 검증 - 안내 오류 메시지

MLOps 배포와 라이프사이클링

기대값 정의됨

MLOps 배포와 라이프사이클링

인증과 스로틀링

MLOps 배포와 라이프사이클링

인증

MLOps 배포와 라이프사이클링

스로틀링

MLOps 배포와 라이프사이클링

FastAPI

  • Python용 오픈 소스 API 프레임워크
  • 필수 기능을 기본 제공
  • REST API를 빠르게 구축·배포
1 https://fastapi.tiangolo.com
MLOps 배포와 라이프사이클링

연습해 봅시다!

MLOps 배포와 라이프사이클링

Preparing Video For Download...