Масштабирование за пределами PoC

Стратегия искусственного интеллекта (ИИ)

Vidhi Chugh

AI strategist and ethicist

Что значит масштабироваться?

 

 

• Масштабируемость:
  • Управление ростом данных, пользователей и задач
  • Сохранение производительности, качества и экономичности

 

• Масштабирование ИИ = доход в 3 раза выше!
  • Интеграция в существующие бизнес-процессы

Облачные платформы

 

• От PoC к полноценной разработке

 

• Облачная платформа
  • Соответствие нормативным требованиям к данным
  • Безопасность
  • Поддержка мультиоблачных и гибридных архитектур

 

Аспекты развёртывания

• Анализ затрат и производительности
• Меры управления; простота развёртывания и администрирования

Разработать или купить?

 

• Готовая модель или собственный алгоритм

• Больший контроль над производительностью системы

 

• Сроки проекта

• Разработка собственного алгоритма требует больше времени, чем использование готового

Масштабируемость и производительность

 

• Масштабирование = качественные прогнозы без потери производительности

 

• Производительность:
  • Точность
  • Задержка: время, необходимое модели для прогноза
  • Пропускная способность: количество прогнозов за единицу времени

 

 

Данные в масштабе

• Основа моделей машинного обучения

• Управление жизненным циклом данных

  • Подготовка и сопровождение

Доступ к данным

 

• Доступ только у отдельных подразделений; изоляция от остальных
  • Формирование разрозненных хранилищ
  • Снижение прозрачности
  • Неэффективные модели

 

• Разные источники = разные форматы
  • Стандартизация

 

Масштабируемая архитектура

 

 

• Выбор правильной архитектуры

 

• Микросервисы
  • Независимое масштабирование
  • Гибкость
  • Отзывчивость

 

• Координация взаимодействия представляет сложность

Инфраструктура для масштабирования

 

• Масштабные вычисления над данными
• GPU ускоряют задачи, но увеличивают затраты

 

• Оцените выгоды
  • Ускорение обучения модели
  • Повышение производительности
  • При дополнительных затратах

Оптимизация процессов ИИ

• Детальный план реализации и проектирование архитектуры
• Стандартизация и оптимизация
  • Построение, развёртывание и мониторинг моделей

Давайте потренируемся!

Стратегия искусственного интеллекта (ИИ)