Методи XAI

Концепції Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Пояснення XAI

 

  • Пояснення, залежні від моделі
  • Пояснення, незалежні від моделі
  • Локальні пояснення
  • Глобальні пояснення

ілюстрація людини перед дошкою з науковою інформацією про ШІ

Концепції Explainable Artificial Intelligence (XAI)

Пояснення, залежні від моделі

графіка дерева рішень

  • Залежні від принципу роботи моделі
  • Візуалізація дерева рішень — тільки для моделі дерева рішень
Концепції Explainable Artificial Intelligence (XAI)

Пояснення, незалежні від моделі

графіка швейцарського ножа

  • Як швейцарський ніж
  • Гнучкі та адаптивні
  • Дає уявлення про роботу будь-якої моделі
Концепції Explainable Artificial Intelligence (XAI)

Локальні пояснення

графіка великого об'єктива зуму

  • Зосередження на конкретному прогнозі
  • Обґрунтування певного результату
Концепції Explainable Artificial Intelligence (XAI)

Глобальні пояснення

графіка панорамного виду

  • Пояснення загального процесу ухвалення рішень
  • Широка перспектива
Концепції Explainable Artificial Intelligence (XAI)

Добір відповідного типу пояснення

Залежно від потреб і контексту:

  • Пояснення, незалежні від моделі: кілька моделей, простота й гнучкість
  • Пояснення, залежні від моделі: глибина й деталі для конкретної моделі
  • Локальне пояснення: пояснення окремого рішення, особливо в критичному контексті
  • Глобальне пояснення: розуміння загальної поведінки моделі
Концепції Explainable Artificial Intelligence (XAI)

Давайте потренуємось!

Концепції Explainable Artificial Intelligence (XAI)

Preparing Video For Download...