Масштабування поза межі PoC

Стратегія штучного інтелекту (AI)

Vidhi Chugh

AI strategist and ethicist

Що означає масштабувати?

 

 

• Масштабованість:
  • Керування зростанням даних, користувачів і завдань
  • Підтримка продуктивності, якості й доступної вартості

 

• Масштабування ШІ = утричі вищий дохід!
  • Інтеграція в наявні бізнес-процеси

Хмарні обчислювальні платформи

 

• Від PoC до повномасштабної розробки

 

• Хмарна обчислювальна платформа
  • Відповідність регулюванням щодо даних
  • Безпека
  • Підтримка multi‑cloud і hybrid‑cloud архітектур

 

Міркування щодо розгортання

• Аналіз вартості й продуктивності
• Міри управління; простота розгортання й адміністрування

Розробити чи купити

 

• Готова модель чи власний алгоритм

• Більший контроль над продуктивністю системи

 

• Терміни проєкту

• Власний алгоритм потребує більше часу, ніж готовий

Масштабованість і продуктивність

 

• Масштабування = якісні передбачення без втрати продуктивності

 

• Продуктивність:
  • Точність
  • Затримка: час, який модель витрачає на передбачення
  • Пропускна здатність: кількість передбачень за певний час

 

 

Дані у великому масштабі

• Основа моделей машинного навчання

• Керування життєвим циклом даних

  • Підготовка та підтримка

Доступ до даних

 

• Доступ лише для окремих відділів; ізольовані від решти
  • Це створює «сайло»
  • Менше прозорості
  • Неефективні моделі

 

• Різні джерела = різні формати
  • Потрібна стандартизація

 

Архітектура, що масштабується

 

 

• Проєктування правильної архітектури

 

• Мікросервіси
  • Масштабуються незалежно
  • Гнучкість
  • Відгукливість

 

• Складно координувати взаємодію

Інфраструктура для масштабування

 

• Інтенсивні обчислення даних
• GPU пришвидшують завдання, але дорожчі

 

• Зважуйте вигоди
  • Прискорення навчання моделей
  • Краща продуктивність
  • Але додаткові витрати

Оптимізація процесів ШІ

• Детальний план упровадження та дизайн архітектури
• Стандартизувати й спростити
  • Побудову, розгортання та моніторинг моделей

Давайте потренуємось!

Стратегія штучного інтелекту (AI)