De API bouwen

MLOps-deployments en levenscyclus

Nemanja Radojkovic

Senior Machine Learning Engineer

API hoogste niveau

MLOps-deployments en levenscyclus

API-definitie

MLOps-deployments en levenscyclus

Server

MLOps-deployments en levenscyclus

Client

MLOps-deployments en levenscyclus

Service voor de client

Procedures draaien op onze server

Voorbeeld: sentimentanalyse-API voor Amazon Comprehend

Amazon comprehend logo

Toegang tot externe databases

Voorbeeld: Twitter API, New York Times API

Twitter API logo

MLOps-deployments en levenscyclus

API-architecturen

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

In deze cursus: architectuur-onafhankelijk perspectief

MLOps-deployments en levenscyclus

Voorbeeld: navigatie-app

Navigatie-app

 

 

 

Doel van de API: client-apps de aankomsttijd laten berekenen

1 Image: Pixabay, https://www.stockvault.net/user/profile/161904
MLOps-deployments en levenscyclus

Eenvoudigste API

MLOps-deployments en levenscyclus

eenvoudigste api 2

MLOps-deployments en levenscyclus

model draait

MLOps-deployments en levenscyclus

modelrespons

MLOps-deployments en levenscyclus

Serverfout

MLOps-deployments en levenscyclus

MLOps-deployments en levenscyclus

MLOps-deployments en levenscyclus

Invoercontrole

MLOps-deployments en levenscyclus

Invoercontrole - verwachtingen

MLOps-deployments en levenscyclus

Invoercontrole 3

MLOps-deployments en levenscyclus

Invoercontrole informatief bericht

MLOps-deployments en levenscyclus

Request-model

MLOps-deployments en levenscyclus

Outputcontrole

MLOps-deployments en levenscyclus

Bug in de code

MLOps-deployments en levenscyclus

Client gecrasht

MLOps-deployments en levenscyclus

Response-model

MLOps-deployments en levenscyclus

Outputvalidatie - Informatief foutbericht

MLOps-deployments en levenscyclus

Verwachtingen gedefinieerd

MLOps-deployments en levenscyclus

Authenticatie en throttling

MLOps-deployments en levenscyclus

Authenticatie

MLOps-deployments en levenscyclus

Throttling

MLOps-deployments en levenscyclus

FastAPI

  • open-source API-framework voor Python
  • alle essentiële features ingebouwd
  • bouw en lanceer REST-API's razendsnel
1 https://fastapi.tiangolo.com
MLOps-deployments en levenscyclus

Laten we oefenen!

MLOps-deployments en levenscyclus

Preparing Video For Download...