Деловые, операционные и этические вопросы

Большие языковые модели для бизнеса

Iason Prassides

Content Developer, DataCamp

Прозрачность

  • Прозрачность в работе LLM
  • Бизнес должен понимать, как LLM приходит к ответу
  • Это необходимо для формирования доверия

Слова «Truth» и «Trust», выложенные деревянными блоками

Большие языковые модели для бизнеса

Ответственность

Деревянные фигурки в круге, одна фигурка другого цвета в центре

  • Если рекомендации LLM не работают
    • Кто несёт ответственность?
  • Разработчики, создавшие модель?
  • Компания, которая её внедрила?
Большие языковые модели для бизнеса

Риски LLM

  • Риск распространения дезинформации
  • Последствия для бизнеса:
    • Решения на основе недостоверных данных
    • Удар по финансовым показателям
    • Репутационный ущерб
  • Опасность злоупотребления LLM:
    • Введение в заблуждение и манипуляции
    • Репутационные и операционные риски

Мультяшный персонаж стоит на блоках со словом «Risk» и измеряет высоту риска

Большие языковые модели для бизнеса

LLM и окружающая среда

  • Обучение LLM требует значительных вычислительных мощностей и энергозатрат
  • Это создаёт большой углеродный след
  • Бизнес обязан учитывать и снижать экологическое воздействие

Роботизированная рука держит планету Земля, из вершины которой растёт дерево

Большие языковые модели для бизнеса

Как создавать LLM?

  • Бизнес должен взвесить практические факторы
  • Разработать LLM собственными силами или использовать сторонних поставщиков?
Большие языковые модели для бизнеса

Технологические ресурсы

Собственная разработка

  • Требует значительных ресурсов: инфраструктуры и данных
  • Возможны ли инвестиции — финансовые и временные?

Сторонние провайдеры

  • Быстрый доступ и масштабируемость
  • Нет затрат на разработку

Мультяшный персонаж складывает монеты, стоя на большом будильнике

Блокнот с графиком снижения операционных расходов, рядом кружка кофе и руки мужчины

Большие языковые модели для бизнеса

Персонализированные LLM

Собственная разработка

  • Адаптация LLM под конкретные задачи
  • Тонкая настройка моделей на основе данных компании

Сторонние провайдеры

  • Высокая производительность
  • Универсальные модели — без кастомизации

Человеческий палец касается слова «customization»

Универсальные товары на полках супермаркета, выполненные в разных оттенках одного цвета

Большие языковые модели для бизнеса

Обновления и поддержка

Собственная разработка

  • Поддержка обеспечивает эффективность и безопасность LLM
  • Постоянные затраты для бизнеса

Сторонние провайдеры

  • Компания не несёт ответственности
  • Обновления и поддержку берёт на себя провайдер

Мультяшная женщина с телефоном, на фоне — иконки обслуживания и обновлений

Надпись «Third Party Service» на планшете с буфером

Большие языковые модели для бизнеса

Работа с данными

Собственная разработка

  • Полный контроль над данными
  • Особенно важно при работе с чувствительными данными

Сторонние провайдеры

  • Может потребоваться передача данных
  • Возможные риски безопасности и конфиденциальности

Мультяшный персонаж за ноутбуком жмёт руку другому персонажу на экране

Мультяшные персонажи похищают данные с ноутбука

Большие языковые модели для бизнеса

Экономическая эффективность

Собственная разработка

  • Нужно балансировать текущие расходы для рентабельности
  • Высокие первоначальные затраты

Сторонние провайдеры

  • Регулярные платежи
  • Низкие стартовые затраты

Мультяшный персонаж держит вилку и розетку, соединяющие деньги с лампочкой

Мультяшный персонаж с карточкой на фоне календаря с отмеченной датой

Большие языковые модели для бизнеса

Выбор за вами!

Указатель с двумя направлениями: аутсорсинг или собственная разработка

Большие языковые модели для бизнеса

Давайте потренируемся!

Большие языковые модели для бизнеса

Preparing Video For Download...