Развёртывание модели

Сквозное машинное обучение

Joshua Stapleton

Machine Learning Engineer

Модель как сервис

  • Стейкхолдеры / пользователи обращаются к модели через интернет

  • Доступ через портал

    • Пользователи отправляют запросы / данные
    • Получают диагнозы / прогнозы

  • Ограничения:

    • Сельская клиника / нет доступа к интернету
    • Закрытая среда / конфиденциальные данные

Символ портала: модель как сервис

Сквозное машинное обучение

Развёртывание на устройстве

Интегрированные архитектуры развёртывания

  • Граничные вычисления
  • Решение для нестабильного интернет-соединения

Шестерни в голове: вычисления на устройстве

Сквозное машинное обучение

Плюсы и минусы развёртывания на устройстве

Преимущества:

  • Меньшая задержка
  • Безопасность
  • Применимость в удалённых / изолированных районах

Недостатки:

  • Ограниченные ресурсы
  • Обновление модели
  • Мониторинг
Сквозное машинное обучение

Стратегии реализации

  • Прореживание
  • Перенос обучения
  • Специализированные фреймворки

Иконка со стратегией

Сквозное машинное обучение

Давайте потренируемся!

Сквозное машинное обучение

Preparing Video For Download...