Budowanie API

Wdrażanie i cykl życia modeli MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

API na najwyższym poziomie

Wdrażanie i cykl życia modeli MLOps

Definicja API

Wdrażanie i cykl życia modeli MLOps

Serwer

Wdrażanie i cykl życia modeli MLOps

Klient

Wdrażanie i cykl życia modeli MLOps

Usługi dla klienta

Uruchamianie procedur na naszym serwerze

Przykład: API analizy sentymentu Amazon Comprehend

Logo Amazon Comprehend

Dostęp do zdalnych baz danych

Przykład: Twitter API, New York Times API

Logo Twitter API

Wdrażanie i cykl życia modeli MLOps

Architektury API

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

W tym kursie: Podejście niezależne od architektury

Wdrażanie i cykl życia modeli MLOps

Przykład: aplikacja nawigacyjna

Aplikacja nawigacyjna

 

 

 

Cel API: Umożliwienie aplikacjom klienckim obliczania szacowanego czasu przybycia

1 Image: Pixabay, https://www.stockvault.net/user/profile/161904
Wdrażanie i cykl życia modeli MLOps

Najprostsze API

Wdrażanie i cykl życia modeli MLOps

najprostsze api 2

Wdrażanie i cykl życia modeli MLOps

działający model

Wdrażanie i cykl życia modeli MLOps

odpowiedź modelu

Wdrażanie i cykl życia modeli MLOps

Błąd serwera

Wdrażanie i cykl życia modeli MLOps

Wdrażanie i cykl życia modeli MLOps

Wdrażanie i cykl życia modeli MLOps

Walidacja danych wejściowych

Wdrażanie i cykl życia modeli MLOps

Walidacja danych wejściowych - oczekiwania

Wdrażanie i cykl życia modeli MLOps

Walidacja danych wejściowych 3

Wdrażanie i cykl życia modeli MLOps

Komunikat informacyjny walidacji wejścia

Wdrażanie i cykl życia modeli MLOps

Model żądania

Wdrażanie i cykl życia modeli MLOps

Walidacja danych wyjściowych

Wdrażanie i cykl życia modeli MLOps

Błąd w kodzie

Wdrażanie i cykl życia modeli MLOps

Awaria klienta

Wdrażanie i cykl życia modeli MLOps

Model odpowiedzi

Wdrażanie i cykl życia modeli MLOps

Walidacja wyjścia - informacyjny komunikat błędu

Wdrażanie i cykl życia modeli MLOps

Zdefiniowane oczekiwania

Wdrażanie i cykl życia modeli MLOps

Uwierzytelnianie i throttling

Wdrażanie i cykl życia modeli MLOps

Uwierzytelnianie

Wdrażanie i cykl życia modeli MLOps

Throttling

Wdrażanie i cykl życia modeli MLOps

FastAPI

  • framework API open-source dla Pythona
  • wszystkie kluczowe funkcje dostępne od razu
  • szybkie tworzenie i wdrażanie REST API
1 https://fastapi.tiangolo.com
Wdrażanie i cykl życia modeli MLOps

Czas na ćwiczenia!

Wdrażanie i cykl życia modeli MLOps

Preparing Video For Download...