Безпечний ШІ: підзвітність

Етика AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Визначення підзвітності

• Підзвітність:
  • Призначення відповідальних за результати ШІ
• Критична на етапах розробки, впровадження та використання ШІ
• ШІ — не «чарівна паличка», щоб уникати відповідальності

Підзвітність має значення

• Люди більше довіряють системам ШІ, коли є підзвітність
• Підзвітність забезпечує етичне використання й зменшує ризик шкоди
• Це не знімає відповідальності з людей

             

Парадокс підзвітності

• Зростання підзвітності ШІ може підвищити довіру
• Але надмірна довіра до ШІ веде до хибних рішень
• Приклад:
  • Дослідження Georgia Tech: учасники слідували помилковим порадам робота

Історія Tesla

• Споживачі неправильно розуміють можливості автопілота
• Критика Tesla за недостатні запобіжники
• Відповідальність поділяють і Tesla, і споживачі

Як досягти підзвітності

• Виробники ШІ:
  • Підзвітність потребує прозорості та подолання проблеми «чорної скриньки»
  • Визначення відповідальних — ключове

• Споживачі ШІ:
  • «Довіряйте, але перевіряйте»
• Виробники й споживачі разом формують етичний ШІ
• Виклики — це можливості для інновацій

¹ Іконки створені Eucalyp і Sumitsaengtong з www.flaticon.com

Немає універсального підходу

• Підзвітність у ШІ — це безперервний шлях
• З кожним кроком у ШІ розмова про підзвітність змінюється
• Єдиної моделі немає; підходи різняться між галузями

¹ Іконку створено Freepik з www.flaticon.com

Давайте потренуємось!

Етика AI