Архитектура развёртывания моделей машинного обучения

Концепции MLOps

Folkert Stijnman

ML Engineer

Микросервисная архитектура

Фазы микросервисной архитектуры

Концепции MLOps

Монолит и микросервисная архитектура

Монолитная архитектура

 

  • Единое приложение, содержащее все сервисы
Концепции MLOps

Монолит и микросервисная архитектура

 

  • Набор небольших независимых сервисов

Микросервисная архитектура

Концепции MLOps

Монолит и микросервисная архитектура

Микросервисная архитектура

Концепции MLOps

Инференс

Микросервис

Концепции MLOps

Инференс

Инференс — это процесс, при котором новые данные передаются в модель машинного обучения и модель возвращает результат. Инференс с использованием API

Концепции MLOps

Интерфейс прикладного программирования (API)

API

Концепции MLOps

Давайте потренируемся!

Концепции MLOps

Preparing Video For Download...