Коли варто довіряти LLM

Великі мовні моделі для бізнесу

Iason Prassides

Content Developer, DataCamp

Максимум від Duolingo

• Duolingo Max
  • Використовує ChatGPT для «людських» розмов

¹ https://blog.duolingo.com/duolingo-max/

Максимум від Duolingo

• Duolingo Max
  • Використовує ChatGPT для «людських» розмов
• Навчання мов
  • GPT може брати різні ролі
  • Надає миттєвий зворотний зв'язок

¹ https://blog.duolingo.com/duolingo-max/

Розуміння LLM

• Бізнес-лідерам слід справді розуміти LLM
• LLM — не магія!
  • Здебільшого прогнозують наступний елемент послідовності
• Вони не розуміють мову, як люди

Здоровий глузд у LLM?

• LLM не мають уявлення про те, що є «правдою»
• Їм бракує здорового глузду
• Людський нагляд критично важливий у кожному кейсі
• Повна залежність від LLM може мати небажані наслідки

Контроль навчання

• LLM залежать від даних, на яких їх навчають
• Упередження чи соціальна несправедливість можуть посилюватися
  • Перевіряйте відповіді, щоб виявляти шкідливі результати

Чи є упередження?

• Якщо LLM навчаються на мові ненависті
  • Відповіді також міститимуть її
• Набори даних з упередженнями
  • Формують LLM із системними упередженими відповідями
• Це може відтворювати упередження, стереотипи чи дезінформацію
• Розробники додали запобіжники проти цього
• Бізнеси мають це враховувати й забезпечити захисти

Гнучкість і наслідки

• Однаковий запит → різні відповіді
• Корисно для творчості, проблемно в інших сценаріях
• Маркетинг створює опис продукту за допомогою LLM:
  • Клієнти бачать різні описи
  • Можлива шкода бренду

Попередження безпеки!

• LLM складні, але їх можна обдурити
• Зловмисники вбудовують шкідливі підказки на сайтах
  • Це може спотворювати вихід LLM
• Відомо як prompt injection
• Може зашкодити репутації

Виклики з LLM

• Чимало викликів залежать від індустрії
• Open Worldwide Application Security Project (OWASP)
  • Квантифікує виклики
• Бізнесам слід зважати на ризики
• Треба розуміти тонкощі LLM
• Забезпечити людський нагляд
• Інвестувати у навчання й безпеку

¹ https://owasp.org/

Давайте потренуємось!

Великі мовні моделі для бізнесу