Объяснимый ИИ

Этика ИИ

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Что такое объяснимый ИИ?

• ИИ-системы, внутренняя логика которых понятна людям
• Цель: сделать решения ИИ прозрачными и понятными
• Помогает понять, почему и как ИИ принимает решения
• Важный шаг к этичному использованию ИИ

¹ Icon made by vectorsmarket15 from www.flaticon.com

Ключевые принципы

• В основе — прозрачность, справедливость, подотчётность
• Выводы ИИ должны быть доступны и логичны для людей

• Модели, изначально построенные с упором на интерпретируемость
• Используют понятные модели: деревья решений или линейная регрессия
• Ценность — в видимости процесса, несмотря на возможно более низкую точность

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Как это работает?

Как это работает?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME как переводчик, помогающий модели объяснять себя
• Создаёт упрощённую версию процесса принятия решения для конкретного прогноза
• Пример:
  • Объясняет прогноз кассового успеха фильма на основе таких факторов, как популярность режиссёра и высокий бюджет

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: детектив в мире ИИ, раскрывающий важность признаков
• SHAP в действии
  • Режиссёр: 50%
  • Актёрский состав: 30%
  • Жанр: 15%
  • Бюджет: 5%

Будущее XAI

• В XAI существует множество других техник и подходов
• Разрыв между XAI и традиционным ИИ сокращается
• Текущие исследования повышают интерпретируемость ИИ

Давайте потренируемся!

Этика ИИ