Пояснюваність LLM

Концепції Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Великі мовні моделі (LLM)

  • Розуміють, генерують і тлумачать людську мову
  • ChatGPT, Bard
  • Навчені на величезних обсягах текстових даних
  • Пишуть статті, поезію, код
  • Як зрозуміти їхні рішення?

 

графіка LLM

Концепції Explainable Artificial Intelligence (XAI)

LLM і пояснюваність

схема: як дані надходять у велику мовну модель і як її підказують

  • Складні через:
    • Глибину й масштаб шарів нейромережі в моделі
    • Величезні обсяги тексту, тобто терабайти даних
Концепції Explainable Artificial Intelligence (XAI)

Методи пояснюваності LLM

Розробник

  • Прозорість навчальних даних
  • Використовуйте простіші моделі
  • Залучайте зворотний звʼязок від людей

Кінцевий користувач

  • Самопояснення
  • Коригування вхідних даних
Концепції Explainable Artificial Intelligence (XAI)

Майбутнє використання LLM

  • Підвищення пояснюваності й надалі буде вимогою
  • Формування довіри та впевненості

графіка мозку з аспектами обробки мови

Концепції Explainable Artificial Intelligence (XAI)

Давайте потренуємось!

Концепції Explainable Artificial Intelligence (XAI)

Preparing Video For Download...