Пояснюваність і інтерпретованість

Розуміння штучного інтелекту

Iason Prassides

Content Developer, DataCamp

Пояснюваність і інтерпретованість

Пояснюваність: здатність людей отримувати й розуміти результати ШІ, напр. прогнози, рішення

Пояснюваність у класифікаторі пінгвінів ML

Інтерпретованість: розуміння внутрішніх процесів ШІ: алгоритм, модель, робочий процес даних

Інтерпретованість у моделі на основі дерева рішень

Розуміння штучного інтелекту

White-box vs black-box системи ШІ

White-box: прозорі та легко інтерпретовані моделі/системи

Лінійна регресія як white-box модель

Розуміння штучного інтелекту

White-box vs black-box системи ШІ

White-box: прозорі та легко інтерпретовані моделі/системи

Лінійна регресія і дерево рішень

Розуміння штучного інтелекту

White-box vs black-box системи ШІ

White-box: прозорі та легко інтерпретовані моделі/системи

Лінійна регресія і дерево рішень

Розуміння штучного інтелекту

White-box vs black-box системи ШІ

Black-box: вища складність, малозрозумілі або незрозумілі

Глибока нейронна мережа як black-box модель

Розуміння штучного інтелекту

White-box vs black-box системи ШІ

Black-box: вища складність, малозrozумілі або незрозумілі

Глибока нейронна мережа як black-box модель

Розуміння штучного інтелекту

Базові інструменти Explainable AI (XAI)

XAI: методи й інструменти для підвищення прозорості та пояснюваності систем і моделей ШІ Інструменти XAI

  • Інтроспекція моделі: аналіз внутрішніх параметрів, щоб зрозуміти рішення
Розуміння штучного інтелекту

Базові інструменти Explainable AI (XAI)

XAI: методи й інструменти для підвищення прозорості та пояснюваності систем і моделей ШІ Інструменти XAI

  • Інтроспекція моделі: аналіз внутрішніх параметрів для розуміння рішень
  • Документація моделі: поширювані описи архітектури та дизайну
Розуміння штучного інтелекту

Базові інструменти Explainable AI (XAI)

XAI: методи й інструменти для підвищення прозорості та пояснюваності систем і моделей ШІ Інструменти XAI

  • Інтроспекція моделі: аналіз внутрішніх параметрів для розуміння рішень
  • Документація моделі: поширювані описи архітектури та дизайну
  • Візуалізація моделі: зручне для людини подання ознак і виходів моделі
Розуміння штучного інтелекту

XAI-інструменти: важливість ознак

Важливість ознак: вплив або внесок ознак (предикторів) у виходи моделі

  • Зрозуміти, як даноорієнтовані моделі (ML/DL) ухвалюють рішення
  • Виявляти й зменшувати проблеми, напр. упередження
  • Вплив на якість моделі, якщо ознаку прибрати

 

SHAP (SHapley Additive exPlanations)

  • Набір інструментів для візуалізації важливості ознак

Візуалізації SHAP для пояснюваності

Розуміння штучного інтелекту

XAI-інструменти: важливість ознак

SHAP (SHapley Additive exPlanations)

Графік важливості ознак SHAP для моделі прогнозу вступу до університету

Розуміння штучного інтелекту

XAI-інструменти: важливість ознак

SHAP (SHapley Additive exPlanations)

 

 

Візуалізації SHAP для пояснюваності.

Розуміння штучного інтелекту

XAI-інструменти: важливість ознак

SHAP (SHapley Additive exPlanations)

Візуалізації SHAP для пояснюваності

Розуміння штучного інтелекту

Практичні наслідки XAI

  • Алгоритмічна прозорість:
    • Як алгоритми обробляють дані й ухвалюють рішення

 

  • Локальна й глобальна інтерпретованість:
    • Розуміти поведінку системи для конкретного прогнозу, vs
    • Розуміти загальну поведінку системи на наборі даних або задачі
  • Етичні аспекти:
    • XAI для розв'язання етичних питань ШІ: упередження, дискримінація, відповідність тощо

 

  • Співпраця людини й ШІ:
    • Надійна співпраця, заснована на довірі та зворотному зв'язку
Розуміння штучного інтелекту

Давайте потренуємось!

Розуміння штучного інтелекту

Preparing Video For Download...