Когда стоит доверять LLM

Большие языковые модели для бизнеса

Iason Prassides

Content Developer, DataCamp

Возможности Duolingo

• Duolingo Max
  • Использует ChatGPT для живых диалогов

¹ https://blog.duolingo.com/duolingo-max/

Возможности Duolingo

• Duolingo Max
  • Использует ChatGPT для живых диалогов
• Учащиеся практикуют языки
  • GPT принимает разные роли
  • Даёт мгновенную обратную связь

¹ https://blog.duolingo.com/duolingo-max/

Понимание LLM

• Руководителям важно понимать, как работают LLM
• LLM — не волшебство!
  • Чаще всего они предсказывают следующий элемент последовательности
• Они не понимают язык так, как люди

Есть ли у LLM здравый смысл?

• LLM не имеют понятия об «истине»
• Им не хватает здравого смысла
• Человеческий контроль необходим в любом сценарии
• Слепое доверие LLM может привести к нежелательным последствиям

Контроль над обучением

• LLM зависят от данных, на которых обучались
• LLM могут усиливать предвзятость и социальную несправедливость
  • Проверяйте ответы на наличие вредоносных выводов

Есть ли предвзятость?

• LLM обучаются в том числе на ненавистнических высказываниях
  • Их ответы тоже могут быть враждебными
• Наборы данных с предвзятостью
  • Порождают LLM с систематическими искажениями в выводах
• Это может закреплять предрассудки, стереотипы и дезинформацию
• Разработчики добавили механизмы защиты
• Бизнес должен знать об этих рисках и принимать меры

Гибкость и её последствия

• Одинаковый запрос → разные ответы
• Полезно для творческих задач, но проблематично в других случаях
• Маркетинговая команда создаёт описания товаров с помощью LLM:
  • Покупатели видят разные описания
  • Имидж бренда может пострадать

Угроза безопасности!

• LLM сложны, но их можно обмануть
• Злоумышленники могут встраивать вредоносные запросы на веб-сайтах
  • Это искажает вывод LLM
• Такие атаки называются инъекцией запросов
• Они могут нанести репутационный ущерб

Сложности с LLM

• Многие проблемы специфичны для конкретных отраслей
• Open Worldwide Application Security Project (OWASP)
  • Систематизирует эти проблемы
• Бизнес должен быть осведомлён о рисках
• Необходимо понимать особенности работы LLM
• Обеспечивайте человеческий контроль
• Инвестируйте в обучение и безопасность

¹ https://owasp.org/

Давайте потренируемся!

Большие языковые модели для бизнеса