Почему объяснимый ИИ важен

Концепции объяснимого искусственного интеллекта (XAI)

Folkert Stijnman

ML Engineer

Система ИИ

Предсказание: анализ данных, выявление закономерностей и прогнозирование
- Примеры: рыночные тенденции, риски для здоровья, погодные паттерны
Генерация: создание контента на основе запроса пользователя
- Примеры: текст, код, изображения и звук

Объяснимый ИИ (XAI)

Разрыв между технологиями и их пониманием
Прозрачность
Интерпретируемость
Подотчётность
Доверие к ИИ

робот и рука тянутся друг к другу

Прозрачность в ИИ

фото запотевшего автомобильного стекла

Прозрачность в ИИ: способность понимать и отслеживать, как системы ИИ принимают решения или делают прогнозы
Обеспечивает справедливость и точность
Делает решения ИИ обоснованными

Интерпретируемость и подотчётность

Интерпретируемость: степень, в которой человек может понять причину решения, принятого системой ИИ
Особенно важна в областях высокого риска, например в медицине
Подотчётность: распределение ответственности за действия и решения систем ИИ

весы правосудия внутри компьютера

Формирование доверия к системам ИИ

чёрно-белый классический лифт

Люди склонны недоверять новым автоматизированным решениям
Понимание формирует доверие
Взаимодействие человека и технологий

Почему XAI важен?

XAI позволяет системам ИИ быть:

Эффективными и обоснованными
Понятными и прозрачными
Вызывать доверие и обеспечивать справедливость
Укреплять отношения между людьми и технологиями

Давайте потренируемся!

Концепции объяснимого искусственного интеллекта (XAI)

Preparing Video For Download...