Объяснимость LLM

Концепции объяснимого искусственного интеллекта (XAI)

Folkert Stijnman

ML Engineer

Большие языковые модели (LLM)

  • Понимают, генерируют и интерпретируют язык
  • ChatGPT, Bard
  • Обучены на огромных объёмах текстовых данных
  • Пишут статьи, стихи, код
  • Как понять логику их решений?

 

графическое изображение LLM

Концепции объяснимого искусственного интеллекта (XAI)

LLM и объяснимость

схема, показывающая, как данные поступают в большую языковую модель и как модель получает запросы

  • Сложность обусловлена:
    • Глубиной и масштабом слоёв нейронной сети внутри модели
    • Большими объёмами текста — терабайты данных
Концепции объяснимого искусственного интеллекта (XAI)

Методы обеспечения объяснимости LLM

Разработчик

  • Прозрачность обучающих данных
  • Использование более простых моделей
  • Учёт обратной связи от людей

Конечный пользователь

  • Самообъяснение
  • Изменение входных данных
Концепции объяснимого искусственного интеллекта (XAI)

Будущее LLM

  • Повышение объяснимости останется обязательным требованием
  • Формирование доверия и уверенности

схема, изображающая мозг с различными аспектами обработки языка

Концепции объяснимого искусственного интеллекта (XAI)

Давайте потренируемся!

Концепции объяснимого искусственного интеллекта (XAI)

Preparing Video For Download...