Bygga API:et

MLOps-driftsättning och livscykelhantering

Nemanja Radojkovic

Senior Machine Learning Engineer

API på högsta nivå

MLOps-driftsättning och livscykelhantering

API-definition

MLOps-driftsättning och livscykelhantering

Server

MLOps-driftsättning och livscykelhantering

Klient

MLOps-driftsättning och livscykelhantering

Tjänster till klienten

Köra procedurer på vår server

Exempel: API för sentimentanalys, Amazon Comprehend

Amazon Comprehend-logotyp

Åtkomst till fjärrdatabaser

Exempel: Twitter API, New York Times API

Twitter API-logotyp

MLOps-driftsättning och livscykelhantering

API-arkitekturer

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

I den här kursen: Arkitekturoberoende perspektiv

MLOps-driftsättning och livscykelhantering

Exempel: Navigationsapp

Navigationsapp

 

 

 

API-syfte: Gör det möjligt för klientappar att beräkna beräknad ankomsttid

1 Bild: Pixabay, https://www.stockvault.net/user/profile/161904
MLOps-driftsättning och livscykelhantering

Enklaste API

MLOps-driftsättning och livscykelhantering

Enklaste API 2

MLOps-driftsättning och livscykelhantering

Modell körs

MLOps-driftsättning och livscykelhantering

Modellsvar

MLOps-driftsättning och livscykelhantering

Serverfel

MLOps-driftsättning och livscykelhantering

MLOps-driftsättning och livscykelhantering

MLOps-driftsättning och livscykelhantering

Indatavalidering

MLOps-driftsättning och livscykelhantering

Indatavalidering – förväntningar

MLOps-driftsättning och livscykelhantering

Indatavalidering 3

MLOps-driftsättning och livscykelhantering

Indatavalidering – informativt meddelande

MLOps-driftsättning och livscykelhantering

Förfrågningsmodell

MLOps-driftsättning och livscykelhantering

Utdatavalidering

MLOps-driftsättning och livscykelhantering

En bugg i koden

MLOps-driftsättning och livscykelhantering

Klienten kraschade

MLOps-driftsättning och livscykelhantering

Svarsmodell

MLOps-driftsättning och livscykelhantering

Utdatavalidering – informativt felmeddelande

MLOps-driftsättning och livscykelhantering

Förväntningar definierade

MLOps-driftsättning och livscykelhantering

Autentisering och begränsning

MLOps-driftsättning och livscykelhantering

Autentisering

MLOps-driftsättning och livscykelhantering

Hastighetsbegränsning

MLOps-driftsättning och livscykelhantering

FastAPI

  • API-ramverk med öppen källkod för Python
  • alla viktiga funktioner direkt ur lådan
  • bygg och driftsätt REST API:er snabbt
1 https://fastapi.tiangolo.com
MLOps-driftsättning och livscykelhantering

Nu kör vi en övning!

MLOps-driftsättning och livscykelhantering

Preparing Video For Download...