Чому важливий Explainable AI

Концепції Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Система ШІ

Прогнозування: аналізувати дані, знаходити патерни та робити прогнози
- Приклади: ринкові тренди, ризики для здоровʼя, погодні умови
Генерація: створювати контент на основі вводу користувача
- Приклади: текст, код, зображення та звуки

Explainable AI (XAI)

Розрив між технологією та розумінням
Прозорість
Інтерпретованість
Підзвітність
Довіра до ШІ

робот і рука торкаються

Прозорість у ШІ

фото запітнілого вікна авто

Прозорість у ШІ: здатність зрозуміти й простежити, як системи ШІ ухвалюють рішення чи прогнози
Забезпечує справедливість і точність
Також робить рішення обґрунтованими

Інтерпретованість і підзвітність

Інтерпретованість: наскільки людина може зрозуміти причину рішення, ухваленого системою ШІ
Важливо для високоризикових сфер, як-от охорона здоровʼя
Підзвітність: покладання відповідальності за дії та рішення систем ШІ

терези правосуддя в компʼютері

Формування довіри до систем ШІ

чорно-білий ретро-ліфт

Люди схильні не довіряти новій автоматизації
Розуміння формує довіру
Взаємодія людини й технологій

Навіщо потрібен XAI?

XAI робить системи ШІ:

Ефективними й обґрунтованими
Чіткими та зрозумілими
Такими, що зміцнюють довіру й справедливість
Сприяють кращій взаємодії людини й технологій

Давайте потренуємось!

Концепції Explainable Artificial Intelligence (XAI)

Preparing Video For Download...