Creare l'API

Deployment e ciclo di vita in MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Livello più alto dell'API

Deployment e ciclo di vita in MLOps

Definizione di API

Deployment e ciclo di vita in MLOps

Server

Deployment e ciclo di vita in MLOps

Client

Deployment e ciclo di vita in MLOps

Servizio al client

Eseguire procedure sul nostro server

Esempio: API di analisi del sentiment per Amazon Comprehend

Logo Amazon Comprehend

Accedere a database remoti

Esempio: Twitter API, New York Times API

Logo Twitter API

Deployment e ciclo di vita in MLOps

Architetture API

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

In questo corso: Vista indipendente dall'architettura

Deployment e ciclo di vita in MLOps

Esempio: app di navigazione

App di navigazione

 

 

 

Scopo dell'API: permettere alle app client di calcolare l'ora di arrivo stimata

1 Image: Pixabay, https://www.stockvault.net/user/profile/161904
Deployment e ciclo di vita in MLOps

API più semplice

Deployment e ciclo di vita in MLOps

API più semplice 2

Deployment e ciclo di vita in MLOps

esecuzione del modello

Deployment e ciclo di vita in MLOps

risposta del modello

Deployment e ciclo di vita in MLOps

Errore del server

Deployment e ciclo di vita in MLOps

Deployment e ciclo di vita in MLOps

Deployment e ciclo di vita in MLOps

Validazione input

Deployment e ciclo di vita in MLOps

Validazione input - aspettative

Deployment e ciclo di vita in MLOps

Validazione input 3

Deployment e ciclo di vita in MLOps

Validazione input - messaggio informativo

Deployment e ciclo di vita in MLOps

Modello di richiesta

Deployment e ciclo di vita in MLOps

Validazione output

Deployment e ciclo di vita in MLOps

Bug nel codice

Deployment e ciclo di vita in MLOps

Client in crash

Deployment e ciclo di vita in MLOps

Modello di risposta

Deployment e ciclo di vita in MLOps

Validazione output - messaggio di errore informativo

Deployment e ciclo di vita in MLOps

Aspettative definite

Deployment e ciclo di vita in MLOps

Autenticazione e limitazione

Deployment e ciclo di vita in MLOps

Autenticazione

Deployment e ciclo di vita in MLOps

Limitazione del traffico

Deployment e ciclo di vita in MLOps

FastAPI

  • framework API open source per Python
  • tutte le funzioni essenziali pronte all'uso
  • crea e pubblica REST API in pochissimo tempo
1 https://fastapi.tiangolo.com
Deployment e ciclo di vita in MLOps

Esercitiamoci!

Deployment e ciclo di vita in MLOps

Preparing Video For Download...