Membangun API

Penyebaran dan Siklus Hidup MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Tingkat tertinggi API

Penyebaran dan Siklus Hidup MLOps

Definisi API

Penyebaran dan Siklus Hidup MLOps

Server

Penyebaran dan Siklus Hidup MLOps

Klien

Penyebaran dan Siklus Hidup MLOps

Layanan untuk klien

Menjalankan prosedur di server kita

Contoh: API analisis sentimen untuk Amazon Comprehend

Logo Amazon comprehend

Akses basis data jarak jauh

Contoh: Twitter API, New York Times API

Logo Twitter API

Penyebaran dan Siklus Hidup MLOps

Arsitektur API

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

Dalam kursus ini: Pandangan agnostik arsitektur

Penyebaran dan Siklus Hidup MLOps

Contoh: Aplikasi navigasi

Aplikasi navigasi

 

 

 

Tujuan API: Memungkinkan aplikasi klien menghitung ETA (perkiraan waktu tiba)

1 Image: Pixabay, https://www.stockvault.net/user/profile/161904
Penyebaran dan Siklus Hidup MLOps

API paling sederhana

Penyebaran dan Siklus Hidup MLOps

api tersederhana 2

Penyebaran dan Siklus Hidup MLOps

model berjalan

Penyebaran dan Siklus Hidup MLOps

respons model

Penyebaran dan Siklus Hidup MLOps

Galat server

Penyebaran dan Siklus Hidup MLOps

Penyebaran dan Siklus Hidup MLOps

Penyebaran dan Siklus Hidup MLOps

Validasi input

Penyebaran dan Siklus Hidup MLOps

Validasi input - ekspektasi

Penyebaran dan Siklus Hidup MLOps

Validasi input 3

Penyebaran dan Siklus Hidup MLOps

Validasi input - pesan informatif

Penyebaran dan Siklus Hidup MLOps

Permintaan model

Penyebaran dan Siklus Hidup MLOps

Validasi output

Penyebaran dan Siklus Hidup MLOps

Bug pada kode

Penyebaran dan Siklus Hidup MLOps

Klien crash

Penyebaran dan Siklus Hidup MLOps

Model respons

Penyebaran dan Siklus Hidup MLOps

Validasi output - Pesan kesalahan informatif

Penyebaran dan Siklus Hidup MLOps

Ekspektasi didefinisikan

Penyebaran dan Siklus Hidup MLOps

Autentikasi dan throttling

Penyebaran dan Siklus Hidup MLOps

Autentikasi

Penyebaran dan Siklus Hidup MLOps

Throttling

Penyebaran dan Siklus Hidup MLOps

FastAPI

  • kerangka API open-source untuk Python
  • semua fitur esensial siap pakai
  • bangun dan luncurkan REST API dengan cepat
1 https://fastapi.tiangolo.com
Penyebaran dan Siklus Hidup MLOps

Ayo berlatih!

Penyebaran dan Siklus Hidup MLOps

Preparing Video For Download...