Пояснюваний ШІ

Етика AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Що таке пояснюваний ШІ?

• Системи ШІ, чий внутрішній устрій зрозумілий людям
• Мета: зробити ухвалення рішень ШІ чітким і пояснюваним
• Допомагає зрозуміти, чому й як ШІ приймає рішення
• Важливий крок до етичного використання ШІ

¹ Icon made by vectorsmarket15 from www.flaticon.com

Ключові засади

• У центрі — прозорість, справедливість, відповідальність
• Висновки ШІ мають бути доступними й логічними для людей

• Моделі, спроєктовані з фокусом на пояснюваність
• Використовує інтерпретовані моделі, як-от дерева рішень або лінійну регресію
• Сила — у видимості процесу, навіть якщо точність нижча

¹ Icons made by juicy_fish & Becris from www.flaticon.com

Як це працює?

Як це працює?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME як перекладач, що допомагає моделі спілкуватися
• Створює простішу версію процесу ухвалення рішення для конкретного передбачення
• Приклад:
  • Пояснює прогноз хіта фільму за факторами, як-от популярність режисера та великий бюджет

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: детектив ШІ, що показує важливість ознак
• SHAP на практиці
  • Режисер: 50%
  • Акторський склад: 30%
  • Жанр: 15%
  • Бюджет: 5%

Майбутнє XAI

• В XAI існує багато технік і підходів
• Розрив між XAI і традиційним ШІ звужується
• Тривають дослідження, що покращують інтерпретованість ШІ

Давайте потренуємось!

Етика AI