Создание API

MLOps: развёртывание и жизненный цикл моделей

Nemanja Radojkovic

Senior Machine Learning Engineer

API на высшем уровне

MLOps: развёртывание и жизненный цикл моделей

Определение API

MLOps: развёртывание и жизненный цикл моделей

Сервер

MLOps: развёртывание и жизненный цикл моделей

Клиент

MLOps: развёртывание и жизненный цикл моделей

Сервис для клиента

Выполнение процедур на нашем сервере

Пример: API анализа тональности Amazon Comprehend

Логотип Amazon Comprehend

Доступ к удалённым базам данных

Пример: Twitter API, New York Times API

Логотип Twitter API

MLOps: развёртывание и жизненный цикл моделей

Архитектуры API

 

  1. REST: REpresentational State Transfer
  2. RPC: Remote Procedure Call
  3. SOAP: Simple Object Access Protocol

 

В этом курсе: подход, независимый от архитектуры

MLOps: развёртывание и жизненный цикл моделей

Пример: навигационное приложение

Навигационное приложение

 

 

 

Назначение API: позволить клиентским приложениям рассчитывать ожидаемое время прибытия

1 Изображение: Pixabay, https://www.stockvault.net/user/profile/161904
MLOps: развёртывание и жизненный цикл моделей

Простейший API

MLOps: развёртывание и жизненный цикл моделей

Простейший API 2

MLOps: развёртывание и жизненный цикл моделей

Работа модели

MLOps: развёртывание и жизненный цикл моделей

Ответ модели

MLOps: развёртывание и жизненный цикл моделей

Ошибка сервера

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

Валидация входных данных

MLOps: развёртывание и жизненный цикл моделей

Валидация входных данных — ожидания

MLOps: развёртывание и жизненный цикл моделей

Валидация входных данных 3

MLOps: развёртывание и жизненный цикл моделей

Информативное сообщение при валидации

MLOps: развёртывание и жизненный цикл моделей

Модель запроса

MLOps: развёртывание и жизненный цикл моделей

Валидация выходных данных

MLOps: развёртывание и жизненный цикл моделей

Ошибка в коде

MLOps: развёртывание и жизненный цикл моделей

Сбой клиента

MLOps: развёртывание и жизненный цикл моделей

Модель ответа

MLOps: развёртывание и жизненный цикл моделей

Валидация выходных данных — информативное сообщение об ошибке

MLOps: развёртывание и жизненный цикл моделей

Ожидания определены

MLOps: развёртывание и жизненный цикл моделей

Аутентификация и ограничение запросов

MLOps: развёртывание и жизненный цикл моделей

Аутентификация

MLOps: развёртывание и жизненный цикл моделей

Ограничение запросов

MLOps: развёртывание и жизненный цикл моделей

FastAPI

  • фреймворк с открытым исходным кодом для создания API на Python
  • все необходимые функции «из коробки»
  • быстрое создание и запуск REST API
1 https://fastapi.tiangolo.com
MLOps: развёртывание и жизненный цикл моделей

Давайте потренируемся!

MLOps: развёртывание и жизненный цикл моделей

Preparing Video For Download...