Бізнесові, операційні та етичні питання

Великі мовні моделі для бізнесу

Iason Prassides

Content Developer, DataCamp

Прозорість

• Прозорість роботи LLM
• Бізнес має розуміти, як LLM формує відповідь
• Це критично для довіри

Відповідальність

• Якщо рекомендації LLM не спрацьовують
  • Хто несе відповідальність?
• Розробники ПЗ, які спроєктували модель?
• Компанія, що її впровадила?

Ризики LLM

• Властивий ризик поширення дезінформації
• Наслідки для бізнесу, зокрема:
  • Рішення на основі некоректних даних
  • Вплив на фінрезультат
  • Репутаційні втрати
• Ризик використання LLM у зловмисних цілях:
  • Обман, маніпуляції, введення стейкголдерів в оману
  • Репутаційні та операційні ризики

LLM і довкілля

• Обчислювальна потужність для тренування LLM споживає багато енергії
• Формує значний вуглецевий слід
• Бізнес має розуміти й зменшувати екологічний вплив

Як будувати LLM?

• Бізнес має зважити прагматичні міркування
• Будувати LLM у компанії чи брати в сторонніх провайдерів?

Технологічні ресурси

In-house

• Потрібні значні ресурси: обчислювальна інфраструктура й дані
• Чи можна інвестувати? Гроші й час?

Third-party

• Миттєвий доступ і масштабованість
• Без витрат на розробку

Персоналізовані LLM

In-house

• Адаптація LLM під конкретні потреби
• Тонке налаштування на даних компанії

Third-party

• Високий рівень продуктивності
• Переважно загальні моделі, якщо не кастомізовані

Оновлення та підтримка

In-house

• Підтримка забезпечує ефективність і безпеку LLM
• Постійні витрати для бізнесу

Third-party

• Компанії не відповідають
• Провайдер робить оновлення й підтримку

Робота з даними

In-house

• Зберігає контроль над даними
• Важливо для чутливих даних

Third-party

• Може вимагати обміну даними
• Можливі ризики безпеки та приватності

Рентабельність витрат

In-house

• Балансуйте регулярні витрати для рентабельності
• Високі стартові витрати

Third-party

• Регулярні витрати
• Низькі стартові витрати

Вибір за вами!

Давайте потренуємось!

Великі мовні моделі для бізнесу